从自生成回答中学习：面向推理的可靠性—不确定性自蒸馏

该论文提出 Reliability–Uncertainty Self-Distillation（简称 RUSD）方法，让同一模型同时充当教师和学生：教师接收问题与已完成的解答尝试，学生仅凭问题提示去匹配教师的 token 级预测。该方法将每次尝试的蒸馏损失按自评判分数与置信度估计的可靠性，再加学生预测不确定性进行加权。在 11 个推理基准上，RUSD 平均准确率超过全部五个基线，Qwen3-4B 达 70.47%，Qwen3-8B 达 76.69%，分别高于基座模型 8.90 和 2.10 个百分点。

以往自蒸馏常依赖参考答案或题目专属评分标准来指导模型，而这在开放式任务中往往不可得。该工作试图仅用模型自身的解答尝试完成蒸馏，并显式处理正确尝试中 token 预测仍不确定的问题，为无标注推理训练提供了一条可复用路径。

核心机制是把同一模型拆成教师与学生两个角色：教师看到问题加完整尝试，学生只看到问题，学生通过匹配教师的 token 级预测来学习。加权时叠加两路信号，一是自评判给出的分数与置信度所估计的可靠性，二是学生自身的预测不确定性，从而降低低质量或不稳定尝试对蒸馏的干扰。

对研发而言，这意味着在缺乏人工标注答案或评分标准的场景中，可以更多利用模型自生成的推理轨迹做训练或迭代，减少对参考答案与人工评分的依赖；但该方法依赖自评判与不确定性估计，落地时需额外推理开销，且当前只在 Qwen3-4B 与 8B 规模上验证，效果能否迁移到其他模型或业务数据仍待确认。

• 在缺少标准答案的内部推理任务上，先小规模复现 RUSD，对比直接用模型自生成数据微调的准确率与标注成本差异。
• 将自评判分数与置信度封装为数据筛选模块，用于过滤模型自生成轨迹中的低可靠样本，降低训练数据清洗成本。
• 在 GitHub 代码与数据基础上，针对自有模型与业务评测集验证跨模型、跨领域的可迁移性。
• 将该加权思路迁移到多轮对话或工具调用轨迹的蒸馏上，测试是否同样优于等权蒸馏基线。

• 该方法的增益是否只出现在推理基准，能否迁移到对话、代码生成或垂直业务任务？
• 自评判与不确定性估计带来的额外推理开销有多大，是否影响训练或上线成本？
• 在模型自身能力较弱时，自生成尝试质量偏低，RUSD 是否会失效？
• 论文所述数据与代码的实际可复现程度，以及与五个基线的具体配置是否有充分披露？