- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月17日 00:05
- 状态
- 单一信源
发生了什么
该论文提出 LLM-as-an-Improver 思路与 Verify--Repair--Reselect(VRR)方法,不再把验证器仅用于固定候选池的排序,而是利用验证反馈生成并重新挑选改进候选。VRR 保留初始优胜者,并条件性生成三个候选:优胜者与次优者的修复版本,以及基于新思路的解法;随后用推理期信息过滤无效与重复项,再按原标准重选。论文称在多个模型、代码生成与推理基准上,VRR 在多种设置下优于固定池验证选择,甚至能在初始候选全部错误时恢复正确解。
为什么重要
此前基于验证器的选择把验证当作一次性排序,候选池固定后反馈即被丢弃,收益受初始候选质量限制。该工作把验证反馈用于生成和重选新候选,使验证环节从被动筛选转为主动构造,改变了推理阶段算力与反馈的使用方式。
底层逻辑
机制是让验证器不仅输出排序信号,还暴露候选的缺陷信息,据此对优胜者和次优者做定向修复,并额外生成一条走不同路径的解法,以扩大搜索空间。再用仅推理期可得的规则剔除无效与重复候选,最后回到原始评价标准重选,从而在保持原有评判口径的同时突破初始候选池上限。
产品与商业机会
对研发流程的直接影响是:代码生成、复杂推理类产品可在推理阶段把验证反馈接入候选生成,用有限额外调用换取更高通过率,而非单纯增加采样数量。需注意论文提示多生成三个候选会带来额外推理成本与延迟,工程上要做条件触发与预算控制。
- 在代码生成或推理产品中加一层 VRR 式回路:首次验证失败时,只对候选做条件性修复与重选,而非无差别扩大采样。
- 把过滤无效与重复候选的推理期规则做成可复用组件,用于降低修复阶段的冗余调用与成本。
- 针对初始候选全部错误的高难场景做定向压测,验证 VRR 的恢复能力是否可稳定复现。
仍待确认
- VRR 在论文覆盖之外的模型与任务上是否同样优于固定池选择,尚未确认。
- 条件性生成三个候选带来的额外推理成本与延迟具体数值未在证据中给出。
- 过滤无效与重复候选所用的推理期信息具体形式未披露,可否迁移到其他任务待验证。
- 论文给出的提升幅度与基准细节未在证据中列明,实际收益量级尚不清楚。