学会提问：预算约束下的 SLM-LLM 信息获取协作

该 arXiv 论文提出把 SLM 与 LLM 的协作从“计算分配问题”改为“信息获取问题”：SLM 仍是主要推理者，只在需要时向黑盒 LLM 顾问发出有针对性查询，并受 API 预算约束。作者用三阶段 RLVR 框架学习是否调用顾问、如何构造查询、如何整合信息，在数学推理与编码任务上改善了性能—成本权衡，部分设置达到或超过按问题路由的 oracle。

此前 SLM-LLM 协作多被当作计算分配，决定由哪个模型承担推理的哪部分；在黑盒 API 场景下，这种粗粒度委派或反复传上下文会造成效率损失。该工作改为让 SLM 按需定向提问，把协作重心从“谁来算”转为“问什么、何时问”，并声称方法可迁移到其他顾问模型家族而无需再训练。

SLM 保持主推理，只在信息不足时向黑盒 LLM 发起定向查询，避免把整个推理过程委派出去，也减少跨模型切换时重复传输上下文的开销。三阶段 RLVR 分别学习调用判断、查询构造与信息整合，并通过联合优化调用与使用来塑造协作行为；API 预算约束直接进入目标，使收益以性能—成本权衡而非单纯性能衡量。

对依赖黑盒 API 的产品，这意味着成本控制可从“选哪家模型”细化到“何时问、问什么”。工程上需要实现调用决策、查询生成与结果整合模块，并监控每次调用的边际收益；若迁移性成立，换顾问模型时不必重新训练，可降低供应商锁定与迭代成本，但实际节省取决于查询频次与任务分布。

• 在数学解题或代码助手内嵌预算感知的“提问策略”，按调用成本动态决定是否咨询大模型。
• 构建可替换顾问模型的抽象层，让 SLM 侧策略与具体 LLM 供应商解耦，便于比价与切换。
• 为 API 调用加装按任务的预算与收益仪表盘，用性能—成本曲线评估每次咨询是否值得。

• 论文声称的部分设置超过 oracle 问题级路由，具体任务、预算区间与评测协议尚未在证据中给出。
• 三阶段 RLVR 的训练成本、数据需求与收敛稳定性未知。
• 迁移到其他顾问模型家族的说法缺乏跨家族实验细节与失败案例。
• 在真实生产流量与延迟约束下，该方法相对现有基线的实际成本节省幅度仍待验证。