分数不是决策：LLM智能体中成本感知的工具获取停止策略

一篇发表在arXiv上的论文提出CAM-DF方法，旨在解决大语言模型（LLM）智能体在工具选择时获取太少或太多工具的问题。该方法在工具排名前缀上做成本感知的停止决策，通过训练一个模型直接优化停止与最佳继续之间的离线差距。实验在五个工具使用领域的1343个任务上评估，在τ‑bench Retail上取得最高收益，在异质成本和高成本压力下达到最先进水平。实时执行中，CAM-DF将智能体暴露的工具数减少37%，同时保持任务成功率不变。

此前工具选择方法只对候选工具排序，但未决定实际选多少个，导致要么信息不足要么成本过高。CAM-DF首次将停止决策与成本感知结合，在保持任务成功率的同时大幅减少工具暴露数量，降低了上下文负载、隐私暴露和调用成本。

CAM-DF将工具获取建模为在排序工具前缀上的成本感知边际停止问题。通过训练模型直接优化“停止获得当前前缀”与“继续获取更多工具”的离线收益差距，符号指示决策方向，差距大小加权损失。该方法被证明与最优停止目标贝叶斯一致，而纯评分规则在成本异质时次优。

CAM-DF可作为轻量级预执行插件，集成到现有LLM智能体框架中，无需修改底层工具排名逻辑。产品可直接用该插件将任意工具排名转化为低成本获取决策，降低API调用费用和上下文窗口压力，同时保持任务成功率，适用于搜索、数据库查询、API调用等场景。

• 将CAM-DF集成到智能体编排平台，作为工具选择模块的默认停止策略，减少无关工具暴露
• 在成本敏感场景（如付费API调用、长上下文模型）中上线该插件，按任务预算自动控制工具数量
• 为不同领域预训练CAM-DF模型，实现零调参部署，降低工程适配成本

• CAM-DF在不同LLM后端（如GPT‑4、Claude）上的泛化表现是否一致？
• 该方法在工具数量极大（如数百个）时的计算开销和延迟是否仍可接受？
• 如何自动设定停止决策中的成本权重，以适应动态变化的API定价？