预算感知的LLM发现：成本校准的边界效用

新论文提出CostAda，一种成本校准的自适应控制器，用于在大语言模型推理时搜索中按剩余预算分配资源。在16个基准-骨干对中的12个上，达到最强基线的全预算质量且最多只需一半预算，在GLM-5和GPT-5.4下取得所有基准的最佳平均质量。

现有LLM发现方法在推理时搜索中按分数进步分配信用，忽视token成本差异。本文证明成本盲信用会随边界和成本分化而损失质量，并引入CostAda，使成本和剩余预算影响搜索决策，而非仅作为记账或停止条件，可能显著降低推理成本并提升效率。

CostAda基于成本校准的边界效用，将边界进展与实现成本对比，并依据剩余预算调节信用。该信号用于控制局部探索强度、边界分配和战术干预，使搜索过程适应预算约束，而非仅事后计算成本。

对依赖LLM推理时搜索的产品（如自动编程、科学发现工具），CostAda可在不牺牲最终质量下大幅减少token消耗，从而降低API成本或提升查询效率。研发团队可借鉴其思想改进自研搜索控制器，优化成本效益。

• 在推理时搜索型产品中集成CostAda，以预算控制自动平衡探索与利用，减少token费用。
• 为API调用设计成本感知的信用分配机制，提升搜索型Agent的效率。
• 开发基于剩余预算的动态停止策略，避免超支。

• CostAda在不同模型（非GLM-5和GPT-5.4）上的表现是否一致？
• 论文未说明实现细节，其架构复杂度如何？
• 未提及是否适用于低资源或边缘场景。