- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年10月1日 01:12
- 状态
- 单一信源
发生了什么
研究团队对开源权重 MoE 模型 Kimi K2.7 Code(1T 参数、32B 激活)仅用强化学习后训练,训练集为 1,700 个专家构建的 agentic coding 任务,其中 1,000 个仓库任务由隐藏 fail-to-pass 与 pass-to-pass 测试评分,700 个终端任务由专家隐藏验证器评分。奖励为目标检查通过比例,任一 pass-to-pass 测试失败则归零。在 rank-32 LoRA 适配器上做一 epoch GSPO,六项外部基准的 pass@1 全部提升,三个 agent harness 与两个未参与训练的 harness 上均观察改善,DeepSWE 与 Terminal-Bench 3 的中位轨迹步数缩短 24%–35%。
为什么重要
此前同类模型改进多依赖训练分布内的任务,跨基准泛化证据有限。该结果显示仅用 1,700 个任务、LoRA 单 epoch 的 RL,就能在六个外部基准和多个未参与训练的 agent harness 上同时提升,且在训练数据收集之后发布的三个任务集上仍显著,说明这种增益并非对固定评测集的过拟合。
底层逻辑
关键机制在奖励设计:以目标检查通过比例为主奖励,一旦任何 pass-to-pass 测试失败即奖励归零,迫使模型在实现新功能的同时不破坏既有行为,逼近“最后一公里”的失败模式。训练任务覆盖仓库与终端两类环境,且只更新 rank-32 LoRA 适配器,使学习集中在可迁移的验证与自检行为上,而非记忆特定仓库。
产品与商业机会
对研发与产品团队的直接含义是:用较小规模的高质量专家任务与严格回归约束做 RL,可提升编码 agent 在真实仓库的端到端完成度,并减少达成目标所需的 agent 步数,从而降低单次任务调用成本与延迟。评测上需要同时关注 fail-to-pass 与 pass-to-pass,避免只测新功能而漏掉回归破坏。
- 在自有代码库上构建 fail-to-pass 与 pass-to-pass 双层测试集,作为 agent 训练与验收的硬门槛。
- 对现有编码 agent 接入 GSPO 或同类 RL 流程,仅训练轻量 LoRA 适配器以控制成本与回滚风险。
- 以 agent 步数作为线上指标之一,评估 RL 后训练是否降低单位任务的 token 与延迟成本。
- 在多个 agent harness 上并行跑同一模型,把 harness 无关的提升作为上线前的泛化检验。
仍待确认
- 证据仅提供摘要,缺少完整实验表格与消融,无法确认提升是否完全来自 RL 而非评测配置。
- Kimi K2.7 Code 以外的模型、闭源模型或更小参数量模型能否复现同等迁移幅度尚不明确。
- 1,700 个训练任务的构建成本与专家标注周期未披露,难以评估该方法的产品化投入产出。
- 收益在训练数据收集之后发布的任务集上仍显著,但长期是否随任务分布漂移而衰减尚未验证。