基于多智能体自监督的递归自我改进

一篇 arXiv 论文提出 MASS 方法，针对开放式研究等不可验证任务中模型输出超出人类专家可靠评估范围的监督瓶颈。MASS 让单一基础模型反复提出、执行并自评多智能体工作流，在结构约束下做进化搜索，并与自生成轨迹上的监督微调交替进行。用 Qwen3.6-27B 跑两个 MASS 周期后，在四个开放式公开基准上单位输出 token 性能提升 1.2-1.6 倍。

此前递归自我改进多依赖人类或可验证信号进行监督，难以扩展到开放式研究类任务。该工作把监督来源从人工评估转向多智能体编排与自评，并给出可量化的每 token 性能提升，说明在缺乏标准答案的场景中，模型自我引导改进存在可操作的路径。

机制是把改进对象从单一模型的推理过程，转为多智能体工作流的结构：模型在不同角色和信息路由之间做组合搜索，进化过程受结构护栏约束，避免无界发散。每轮用自生成轨迹做监督微调，改进后的模型又充当更好的优化器和评估器，形成交替式递归自举。证据还显示多智能体轨迹的训练效率更高——用其训练的学生模型优于多消耗 1.4 倍训练 token 的单智能体学生。

对研发团队而言，这意味着可以用同一基础模型自动搜索角色分工与信息流配置，再把优质多智能体轨迹沉淀为训练数据，替代部分人工标注与评估成本。由于收益以每输出 token 性能衡量，推理成本与效果可同时被纳入评估。产品侧若涉及开放式研究、分析或长链路任务，可先用较小模型跑通编排搜索流程，再逐步迁移到更大模型。

• 在内部评测流水线中复现 MASS 两轮循环，用固定公开基准对比单位 token 性能与单智能体基线。
• 把多智能体轨迹作为高质量训练数据源，测试同等 token 预算下学生模型相对单智能体数据的增益。
• 为开放式任务建立角色与信息路由的模板库，配合结构护栏约束进化搜索的搜索空间。
• 将每输出 token 性能作为产品侧核心指标，纳入模型选型与推理成本核算。

• MASS 在不可验证任务上的自评可靠性如何校准，是否存在评估与优化同源导致的偏差累积？
• 结构护栏的具体形式与约束强度未在证据中说明，其对搜索空间和最终性能的影响程度未知。
• 1.2-1.6 倍提升是否在 Qwen3.6-27B 之外的其他模型和任务分布上可复现？
• 多轮递归自举是否存在性能上限或退化拐点，证据仅覆盖两个 MASS 周期。