优化而非重采样：LLM 推理的测试时自我修正方法

arXiv 发布一篇论文，提出一种无需验证器的广度—深度推理优化框架：采样多个独立推理轨迹，对每个轨迹迭代自我批判和修正，再通过多数投票聚合。在 AIME24、AIME25、AMC、OlympiadBench、MATH500 等基准上，该方法优于贪心解码、多数投票、验证器最佳 N 等基线。例如 Qwen2.5-1.5B 在 MATH500 上准确率提升至 58.0%。

传统测试时扩展主要依赖增加采样数量或外部验证器，但收益递减且受验证器校准影响。该研究证明，将额外计算用于迭代修正已有解，比单纯增加采样或依赖验证器选择更有效，为提升小模型推理能力提供了新思路。

方法通过广度保持初始尝试的多样性，深度则利用自我批判与自我修正修复局部推理错误，最后通过多数投票聚合，从而在无需外部奖励模型的情况下，有效利用测试时计算改进答案质量，减少重复模式并提升准确率。

该框架可应用于现有 LLM 推理服务，以较低成本提升小模型（如 Qwen2.5-1.5B）的数学推理准确率，减少对验证器模型的依赖，可能降低推理系统的复杂度与运行成本，但对推理时延有额外开销。

• 在数学解题类产品中接入该方法，针对小模型提升准确率，降低对大模型或外部奖励模型的依赖。
• 将迭代自我修正流程封装为可复用模块，集成到现有 LLM 推理管线，供开发者在 API 中按需启用。
• 将框架作为差异化卖点，提供“高精度推理模式”付费选项，按测试时计算量计费。

• 论文实验是否包含真实用户场景下的延迟和成本数据？
• 该方法在不同语言、领域（非数学）的泛化能力如何？
• 迭代轮次对推理时间的具体影响未明确说明。