面向训练效果的目标覆盖度：合成数据选择方法 TATC

一篇 arXiv 论文提出线性理论，刻画合成数据在 LLM 训练中的收益与错误代价之间的权衡，并给出何时只看输入覆盖度、何时必须考虑合成错误的判断条件。据此提出 TATC 方法，在候选合成样本中挑选对目标任务训练效果有益、且能扩展目标相关方向覆盖的样本。文本与图像实验验证了该线性理论；在数学推理任务中，TATC 用于微调 Qwen2.5-Math-1.5B-Instruct，在多个选择预算下于 GSM8K 上优于其他合成数据选择方法。

此前合成数据筛选多依据输入分布覆盖度或静态打分，默认数据越多越好。该工作把“对目标任务的边际训练价值”和“合成错误带来的抵消效应”纳入选择标准，并指出示例价值会随训练集增长而变化，为合成数据扩容提供了可量化的取舍依据。

论文用线性理论描述合成数据对目标任务的收益与误差代价的权衡，推导单个样本加入现有集合后的边际价值，并界定输入覆盖度足够与必须计入合成错误的两种条件。TATC 据此先筛出训练效果对目标任务有益的候选，再在其中优先选择能覆盖现有数据尚未表示的目标相关方向的样本。

对做 LLM 微调的团队，该方法提供了一条按目标覆盖度与边际价值挑选合成数据的流程，可用于控制合成数据规模、减少无效或有害样本带来的微调成本。论文在 Qwen2.5-Math-1.5B-Instruct 与 GSM8K 上的结果，为数学推理类微调的数据筛选提供了可复现的对比基线。

• 在数学推理微调流程中引入 TATC 式筛选，按选择预算评估 GSM8K 等目标基准的收益。
• 将合成数据筛选与训练集规模联动，定期重估样本边际价值，淘汰随训练增长而失效的样本。
• 建立合成数据质量评估环节，同时度量目标覆盖增益与合成错误引入的抵消效应。
• 在文本与图像之外的自有任务数据上复现线性理论假设，验证适用边界。

• 线性理论在更大规模模型和更长训练步数下是否仍然成立。
• TATC 的增益在数学推理以外的目标任务上是否稳定可复现。
• 选择预算之外，该方法带来的额外计算与工程成本如何。
• 论文所述线性分析中的具体假设与实现细节，是否适用于多轮迭代式数据扩充。