- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月21日 17:54
- 状态
- 单一信源
发生了什么
该 arXiv 论文提出 RRSI 方法,针对 LLM Agent 的 harness(提示、控制流、工具、记忆与上下文管理)自动迭代改进中出现的过拟合问题,通过约束候选编辑的提出与筛选引入正则化。实验覆盖编码、Agent 工作空间与工程设计等八项基准,在其演化的数据划分上最高提升 14.1 分,在五项分布外基准上最高提升 4.7 分,且所用策略 token 比未正则化演化少 30%。
为什么重要
此前对 Agent harness 的自动演化多在训练任务上迭代改写组件,容易记忆基准任务,导致分布内分数虚高而分布外收益缩水甚至消失。RRSI 把正则化显式引入提出与选择环节,使改进在演化数据划分之外的五个基准上仍有正向收益,并同时降低 token 消耗,说明递归自我改进的泛化性与成本可被工程手段约束。
底层逻辑
RRSI 在候选提出阶段使用随时间退火预算,限制单个候选可捆绑的编辑数量,并依据演化历史鼓励探索未走路径;在选择阶段设置 critic 与 pruner,前者筛除针对特定基准的提案,后者删除过小、过贵或已无用的改动。两类约束共同偏向可复用的 Agent 机制,而非基准特定的调整或噪声,从而抑制记忆式过拟合。
产品与商业机会
对构建 Agent 产品的团队而言,harness 自动优化可被纳入常规开发流程,但需评估分布外表现而非只看内部评测分数。RRSI 的编辑预算与筛选机制可作为设计自动优化管线的参考,其 30% 策略 token 缩减直接关系推理成本与响应延迟。
- 在内部 Agent 评测中增设分布外测试集,专门检验 harness 自动优化是否只是记忆训练任务,据结果决定是否上线。
- 将编辑粒度预算与 critic/pruner 筛选逻辑产品化为 harness 迭代工具,控制自动改动的成本与噪声。
- 针对编码、工作空间操作等已验证任务类型,试点 RRSI 式演化流程,跟踪 token 消耗与跨任务迁移收益。
仍待确认
- RRSI 的 30% token 缩减是否在全部八项基准上一致,还是仅来自特定任务类型?
- critic 与 pruner 的判定标准依赖何种信号,是否引入额外模型调用与成本?
- 该方法是否已开源、复现所需的最小规模实验设置是什么?
- 在非基准的真实业务任务上,正则化后的 harness 是否仍保持正向收益?