FastCI：面向 LLM 训练框架的高效 GPU 密集型持续集成

论文提出 FastCI，用于提升 LLM 训练框架的 CI 效率。它利用运行时证据筛选受影响的测试，剪除在等价上下文中执行变更代码的测试，优先运行高风险测试，并按各测试验证范围之外的维度优化工作负载。在 ByteDance 某 LLM 训练框架的 CI 负载上，CI 延迟降低 77.5%，GPU 资源使用降低 63.9%，修改代码覆盖率保留提升 3.2%，并已集成到该框架的 CI 流程中。

LLM 训练框架的 CI 依赖完整训练或评估等 GPU 密集型测试，CI 本身成为快速迭代的瓶颈。FastCI 给出可量化的降本路径，并把吞吐目标与代码覆盖率保留放在同一套机制中衡量，说明 GPU CI 优化已进入工程化落地阶段。

FastCI 以运行时证据判断哪些测试真正受代码变更影响，并识别变更代码处于等价上下文中的测试加以剪除；同时按失败风险排序，使潜在问题更早暴露，并把测试负载从各测试原本的验证范围调整到其他维度，从而减少不必要的 GPU 执行。

对维护 LLM 训练框架的团队，CI 延迟与 GPU 用量同时下降，可缩短合并等待时间并降低 GPU 成本；覆盖率保留略有提升，意味着提速不以漏测为代价。该方法也可为其他 GPU 密集型测试流水线提供可复用的优化思路。

• 在自建 LLM 训练框架的 CI 中引入运行时证据驱动的测试选择与等价上下文剪枝，先量化延迟和 GPU 成本收益。
• 为 GPU CI 平台增加高风险测试优先调度能力，让失败更早暴露，缩短开发者等待反馈的时间。
• 将修改代码覆盖率保留作为 CI 加速方案的核心验收指标，避免仅以延迟下降评估效果。
• 梳理 CI 中哪些测试可沿验证范围之外的维度重排或合并，形成可复用的负载优化清单。

• FastCI 的方法能否迁移到 ByteDance 之外的训练框架或非训练类 GPU 工作负载？
• 延迟和 GPU 资源收益在不同模型规模、测试套件和代码变更频率下是否稳定？
• 剪枝等价上下文测试是否会在长期运行中遗漏某些边界缺陷？
• 论文未披露 FastCI 的实现细节、接入成本与维护开销。