不要求解，只需比较：用于 LLM 智能体运行时干预的微型顾问

arXiv 发布论文提出 Comparison-Only Tiny Advisor (COTA) 框架，用于 LLM 智能体的运行时干预。COTA 通过小型比较器判断备选方案是否优于智能体原有提议，以重复比较决定是否干预，并在 WebShop、ALFWorld 和 tau^3-Retail 三个智能体上改善了全部九个评估设置，超越了基线。

此前运行时干预依赖专家求解器或能生成任务特定修正的批评者，成本高或容量需求大。COTA 证明仅用微弱的比较能力即可实现有效干预，为低成本提升 LLM 智能体可靠性提供了新路径，可能降低部署门槛。

COTA 的核心机制是使用一个小型比较器，对比由同一前缀生成的反事实分支，学习判断备选方案是否优于当前提议。在运行时，它通过重复比较决定是否干预，并将优选方案作为非强制性建议返回，由原始智能体重新规划，从而避免依赖强大求解器。

对依赖 LLM 智能体的产品而言，COTA 可降低运行时监督和纠错成本，无需额外引入大型模型。研发团队可能用轻量模型替代高成本批评者，提升长任务可靠性，同时减少推理开销，优化用户体验和运营成本。

• 在客服或自动化流程智能体中集成 COTA，用低成本比较器替代专家纠错，降低运维成本。
• 将 COTA 作为可插拔模块嵌入现有智能体框架，提供运行时安全网，提升任务完成率。
• 开发基于 COTA 的模型评估工具，用于快速筛选备选方案，辅助提示词或策略调优。

• COTA 在不同任务类型上的泛化能力是否稳定，目前仅在三个环境验证。
• 比较器的训练数据生成成本未披露，实际落地需评估数据准备开销。
• COTA 对长时序任务的干预频率和延迟影响有待量化。
• 非绑定建议方式是否在所有智能体架构中通用，尚未明确。