基于 transformer 增强 PPO 的软截止时间感知协作 MEC 用于 LLM 推理

arXiv AI 发布论文，研究在软截止时间约束下，利用协作移动边缘计算（MEC）服务器进行大语言模型（LLM）推理。论文提出一种扩展截止时间机制，并开发了 transformer 增强的 PPO 框架，以协调 MEC 服务器间的任务迁移，最大化按时完成的任务数并最小化截止时间延展的使用。模拟结果显示，该方法在任务完成率和系统效率上优于传统 PPO 和启发式方法。

此前针对 LLM 推理的调度多假设硬截止时间或未考虑任务依赖，该研究引入软截止时间和有限扩展机制，并利用 transformer 增强 PPO 提升决策能力，为在时延敏感场景下的 LLM 部署提供了新思路，可能改善服务质量和资源利用率。

在协作 MEC 系统中，LLM 推理任务被分解为子任务，子任务间存在依赖，错过截止时间可能导致整体请求失败。论文提出扩展截止时间机制，允许有限延期。所提框架利用 transformer 捕获任务的时间依赖和跨服务器交互，增强 PPO 的策略学习，从而优化任务迁移决策，在最大化按时完成任务数与最小化延期之间取得平衡。

对产品而言，该技术可能提升 LLM 推理服务的响应速度与可靠性，尤其在边缘场景下。研发团队可关注其调度算法，以优化资源分配和成本。但对现有产品或流程的直接改变尚无具体证据，需更多验证。

• 论文中的模拟环境与真实生产环境的差距如何？
• 该方法是否已在实际 MEC 平台或产品中部署？
• 在任务依赖复杂或负载剧烈波动时，该方法的鲁棒性如何？