超越正确性：面向推理模型后训练的算力响应式数据筛选

一篇 arXiv 论文提出 Compute-Responsive Data Selection（CRDS）数据筛选原则，关注推理模型后训练中哪些样本能从额外推理算力中获得最大收益。作者将「初始失败、增加算力后成功」的样本定义为 compute-responsive（CR）样本。在 Qwen3-8B 上，用 CR 样本做 SFT 可恢复 45.3% 的留出低算力失败题，高于用已解出样本的 40.6%；在独立测试分布上整体准确率达 51.8%，并在 512 至 4,096 token 推理预算下持续优于非 CR 训练。

此前后训练数据筛选多按难度或正确性组织，推理算力分配研究则通常把模型视为固定。该工作把「模型能否随算力增加而改善」作为筛选标准，在 Qwen3-8B 上显示 CR 样本训练不仅提升选定集表现，还改变推理预算与准确率的整体前沿，属于后训练与推理算力协同的新切入点。

作者的观察是：推理问题对额外算力的响应差异很大，有的在低算力下即可解出，有的增加推理仍无法解决，只有一部分会从完全失败转为成功。CRDS 优先选取这类有实证边际效用的样本，让模型在后训练中学习「多推理如何带来正确答案」的模式，从而在推理阶段更有效利用给定 token 预算。

对推理模型产品团队，数据标注与算力预算的分配方式可能改变：筛选数据的依据从「是否做对」转向「增加算力后是否做对」。若结论可复现，可在同等 SFT 成本下提升低算力失败题的恢复率，或在相同准确率目标下降低推理 token 消耗，进而影响推理成本与响应延迟。

• 在产品后训练数据管线中增加双预算评测：对每道题分别记录低算力与高算力结果，标记 compute-responsive 样本并优先入训。
• 针对 Qwen3-8B 等自有模型，构建 CR 样本筛选脚本，对比 CR 与非 CR 训练在相同推理预算下的准确率恢复数据。
• 将 CRDS 思路用于客户支持或代码生成场景，筛选「初始失败、扩展推理后成功」的案例，用于提升低 token 预算下的成功率。
• 在推理服务中按问题类型动态分配 token 预算，把更多算力留给 compute-responsive 类问题。

• CRDS 在 Qwen3-8B 之外的模型规模和架构上是否保持相同增益，证据尚未完整展示。
• CR 样本的判定依赖两次不同算力下的评测，在更大规模数据上标注成本是否可控。
• 在 4,096 token 以上的推理预算或更长链式推理场景中，优势是否延续。
• 论文摘要中 on-policy distillation 与多数据源的结果被截断，具体实验细节与消融设定尚不明确。