- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月24日 16:35
- 状态
- 单一信源
发生了什么
该论文研究在检索增强问答中,系统该直接返回已有草稿答案,还是用检索证据修订。研究者用同一正确性判定器同时评估草稿与候选修订,把这一配对效果称为“可恢复性”,并训练策略在修订前预测它。在25,870道开放域问题、三种修订设置下,配对结果训练的打分器在九组Llama拟合中均优于草稿正确性打分器,开发集阈值下平均提升0.23至0.68个准确率点,但仅在稠密检索下显著。策略优于始终修订,弥补超过三分之一与oracle的差距,仍执行38%至46%的有害修订。
为什么重要
此前答案修订决策多依赖草稿置信度,只判断当前答案是否正确;这项工作转向估计“修订会带来多大净收益”,把修复、损害和与oracle的差距变成可观测指标,为是否触发修订提供了新的训练目标。
底层逻辑
草稿置信度只能说明当前答案可能对不对,无法说明修订动作本身会改善还是损害答案。作者让同一判定器分别评估返回草稿与候选修订,从而得到配对结果,并训练策略在修订前预测该结果。这样决策依据从“草稿是否可信”变为“修订的预期净效果”,可恢复性即描述一次修订的可修复程度。
产品与商业机会
对RAG产品而言,直接按草稿置信度决定要不要修订并不可靠。团队需要同时记录并评估修订前后答案,构建配对数据来训练触发策略,否则会执行大量有害修订,增加延迟与调用成本,还可能降低用户看到的答案质量。
- 在RAG问答链路中埋点记录草稿与修订后的配对结果,用同一判定器标注,构建可恢复性训练集。
- 将“是否修订”实现为可配置门控,先在离线数据上比较草稿置信度策略与配对结果策略的准确率-修订率曲线。
- 当同时存在草稿与无草稿的标准RAG答案时,优先比较两者而非默认加入修订选项,以减少无效调用。
- 对不同检索器分别校准修订阈值,因为该论文中显著收益只出现在稠密检索设置。
仍待确认
- 该配对结果与可恢复性策略在非Llama模型或更大规模模型上是否同样成立?
- 38%至46%的有害修订率在真实产品延迟与成本约束下是否仍可接受?
- 论文中开发集阈值选择方法在线上分布漂移后是否稳定?
- 若同时提供草稿与标准RAG答案,修订作为第三选项在哪些细分问题上仍有价值?