Agent 何时该思考：通过跨轮估计实现自适应推理

一篇 arXiv 论文提出 RACE 训练方法，用于让基于 LLM 的 agent 自适应决定何时推理。作者发现，移除某轮额外推理后，后续参考动作似然度的下降幅度，可轻量反映该推理是否仍被后续动作依赖。基于此，RACE 用 LoGiC 程序逐步识别可移除的低影响推理轮次，并将移除信号融入监督微调和 agentic 强化学习。四个 agent 基准实验显示，RACE 在保持或提升任务表现的同时显著降低推理成本。

此前 agent 往往在每一轮动作前都执行推理，推理成本随轨迹长度线性累积。该工作把“是否需要新建推理”从固定流程改为由策略学习的决策，并提供不依赖昂贵生成式验证的轻量信号。这意味着 agent 的推理开销不再必然与交互轮数挂钩，为成本敏感的长轨迹任务提供了新的优化方向。

机制是：当移除某轮推理后，后续参考动作的生成似然明显下降，说明这些动作依赖该推理，反之则说明既有推理已足够。RACE 用这一似然变化作为跨轮动作支持度的轻量代理信号，通过 LoGiC 渐进识别移除影响有限的推理轮次，再把移除信号同时用于监督微调和 agentic 强化学习，使策略学会在哪些轮次直接行动、哪些轮次重新推理。

对 agent 产品而言，推理 token 和延迟是主要成本来源之一。RACE 若能落地，可减少冗余推理调用，降低单次任务延迟与推理费用，同时通过强化学习保持任务成功率。研发上需要可获取参考动作或轨迹信号的训练管线，并可能需要调整监督微调与强化学习的数据构造方式。用户体验可能体现为更快响应和更长可承受的交互轨迹。

• 在自有 agent 轨迹数据上复现 RACE，测量推理 token 降幅与任务成功率变化。
• 将“是否需要推理”作为独立策略头或分类器，接入现有 agent 推理调度层。
• 针对长流程客服、代码修复等场景，优先测试跨轮推理复用带来的延迟收益。
• 建立按轮次标注推理必要性的内部评测集，用于对比 RACE 与固定每轮推理的基线。

• 论文中四个基准的具体名称、任务类型和规模未在证据中给出。
• RACE 相比固定每轮推理的具体成本降幅和性能变化数值未被披露。
• 该方法在真实生产 agent 系统上的延迟、稳定性和泛化表现尚待验证。
• LoGiC 识别移除信号所需的额外计算开销及其在长轨迹上的可扩展性未说明。