经验链：持续改进大型语言模型的测试时学习方法

一篇论文提出Chain-of-Experience（CoE）方法，让LLM在测试时通过自我反馈或环境信号（如正确性、代码测试通过率）的迭代交互积累经验，形成持续改进循环。研究使用8个LLM（包括GPT-5、Gemini-2.5 Pro、Claude-4.5 Sonnet）在数学、编码和知识领域评估，发现CoE优于无反馈基线，总体提升5.6%，API成本降低19%，且高能力模型改进更显著。

传统LLM评估忽略模型在推理时的学习能力，CoE首次系统研究迭代经验积累机制，证明测试时交互可带来显著性能提升和成本降低，为AI产品利用推理时反馈优化提供新方向。

CoE通过模型与自我或环境反馈的迭代交互，累积经验痕迹，形成持续改进循环。不同反馈通道（如自我反馈和正确性信号）互补，提升准确率与token效率。模型基础能力与改进能力正相关，且在弱反馈下保持稳健，多数收益出现在早期迭代。

该方法可直接用于提升AI产品的推理准确性和成本效益，降低API调用成本（节省19%），减少重复推理开销。产品可集成CoE机制，在不更换模型的情况下持续优化输出质量，尤其在编程、数学等可验证场景。

• 在编程助手产品中，利用公开测试用例通过率作为环境反馈，迭代优化代码生成质量。
• 在数学解题工具中，结合正确性信号和自反馈，减少错误答案并提升用户满意度。
• 开发自动化评估工具，加入CoE能力指标，对比不同模型的改进潜力。
• 利用CoE降低API成本，在客服或内容生成场景中提高预算效率。

• CoE在不同模型规模和任务类型上的普适性如何？
• 迭代交互是否增加用户等待时间？对产品体验影响未知。
• CoE是否需要额外工程支持（如反馈接口）？未提及。
• 论文中GPT-5等模型是否为虚构？需核实。