Trajectory Soup：用多样轨迹拓展 LLM 中期训练的计算扩展边界

论文指出，中期训练为预训练大模型注入专精与推理能力，但追加串行算力的回报有限，甚至会削弱部分能力。作者提出 Trajectory Soup：把中期训练预算分散到多个独立分支，各分支从同一 checkpoint 按不同配方分叉，并在验证集上挑选最强 checkpoint，通过轨迹内与轨迹间平均合并为单一模型。在多种模型规模、学习率调度、token 预算与轨迹数量下，它比同等预算下最强的单轨迹平均聚合表现更好，预算扩大时优势持续，经相同后训练流程后仍保留。

此前中期训练主要靠延长单一串行训练来提升，额外算力回报递减甚至损伤部分能力，形成实际算力天花板。该工作把算力分配方式本身作为优化对象，用多分支并行训练加合并替代单线加长，证明同等预算下可获得更好聚合效果，且预算扩大时收益不减。

从共享 checkpoint 分叉、在不同受控配方下训练的多个分支，会落到参数空间中可测量的不同区域，形成单次延伸训练无法提供的兼容多样性。轨迹间平均可消除轨迹内平均无法触及的残余误差；但 checkpoint 选择会引入偏差，从而限制可合并 checkpoint 的数量上限。

对研发团队而言，中期训练预算可拆分为多个并行分支而非单纯延长一条训练线，最终合并为单一模型交付，无需改动下游推理服务。这为算力规划、checkpoint 筛选和验证集选择流程提出新要求，可能改变中期训练阶段的任务编排与成本分配方式。

• 在中期训练流水线中引入多分支并行调度与合并步骤，把单条长训练改为共享 checkpoint 分叉训练。
• 围绕验证集构建 checkpoint 自动筛选与合并工具，控制因选择偏差带来的可合并数量上限。
• 在算力预算规划中对比单轨迹延长与多轨迹分配合并的聚合效果，作为预算分配依据。

• 轨迹数量与 token 预算扩大到何种规模后，优势是否仍持续？
• 在不同预训练基座和真实业务后训练流程下，结论是否可复现？
• checkpoint 选择偏差的具体量化边界如何确定？
• 多分支并行训练对整体训练算力与工程复杂度的净成本影响尚未说明。