- 类型
- 论文
- 来源
- Hugging Face Daily Papers
- 发布
- 2026年9月25日 00:00
- 状态
- 单一信源
发生了什么
Hugging Face Daily Papers 收录论文 Rufus-Air,提出一套在 GLM-4.5-Air-Base(106B-A12B)上可复现的开源后训练配方,按 SFT、Reasoning RL、Coding RL、Instruction-Following RL、General Agent、Coding Agent、Search Agent、RLHF 八个阶段串行执行。论文公开数据、奖励设计、基础设施、阶段顺序与各阶段结果,且未使用新人工标注或自研蒸馏教师模型。结果显示该配方优于官方 GLM-4.5-Air 后训练版本,并与同规模开源模型相当。
为什么重要
以往开源后训练方案常只披露部分数据或依赖自建标注与蒸馏教师,复现门槛高。该工作把八阶段顺序、奖励设计、工程选择与阶段结果一并公开,并以官方后训练版本作为对照,使后训练从经验性操作变为可对照、可复现的流程,降低外部团队进入门槛。
底层逻辑
配方按能力由基础到高级、奖励由硬到软排列:先用多样高质量 SFT 建立能力下限,再用难度过滤把 RL 提示控制在可学习区间,并以奖励可靠性决定阶段先后。基础模型、开源组件与公开数据基本按原样使用,避免额外人工标注与蒸馏教师,说明性能提升主要来自数据、奖励与工程编排的组合,而非新增监督信号。
产品与商业机会
团队可直接以该配方为模板规划后训练流水线,把预算重点放在数据筛选与奖励可靠性评估,而非从零设计阶段。对研发而言,八阶段串行意味着训练周期与算力成本更长,需要评估各阶段收益是否覆盖成本;对产品而言,可据此判断同规模开源模型能否通过后训练达到可用能力,从而影响模型选型与自托管方案。
- 以该八阶段流程为模板,搭建内部后训练流水线并逐阶段记录可复现指标
- 围绕难度过滤与奖励可靠性开发提示筛选和奖励评测工具,用于自有模型
- 在 GLM-4.5-Air-Base 上复现配方并对比官方后训练版本,验证迁移到自有数据的成本
- 将各阶段数据、奖励与基础设施配置整理为可审计文档,供模型选型评审使用
仍待确认
- 该配方在 GLM-4.5-Air-Base 之外的其他基础模型上是否同样有效
- 八个阶段各自的算力、时间与数据成本是多少,收益是否递减
- 论文所称与同规模开源模型相当的具体对比基准和评测结果细节
- 未使用新人工标注与蒸馏教师的情况下,各阶段数据来源与授权是否完全公开可复用