INTACT：在冻结的主干模型上诱导潜在推理

论文提出 INTACT，用一个小型外部编码器在冻结的主干模型上诱导潜在推理：编码器迭代地将主干隐藏状态映射为新的潜在块，构造潜在推理前缀，之后冻结模型以文本形式输出剩余推理与答案。方法先通过蒸馏训练编码器以复现书面推理步骤的效果，再按答案正确性强化。在四个 1B 至 8B 的冻结主干上，GSM8K 与域外平均准确率均有提升。

此前提升推理能力通常需要重新训练或微调主干模型，成本高且易改变原有行为。INTACT 表明只训练一个外部小编码器即可在冻结主干上获得推理增益，并减少解码的中间 token 数量，这为不改动现有模型权重的推理增强提供了一条更轻量的路径。

潜在推理用连续的 soft-token 表示替代自然语言思维链，从而减少需自回归解码的中间 token。INTACT 让编码器反复读取主干隐藏状态并生成潜在块，形成推理前缀；蒸馏阶段让这套前缀复现书面推理步骤的效果，并约束模型行为贴近原冻结主干；随后用答案正确性做强化，使潜在前缀更直接服务于最终答案。

若该结论在更多模型上成立，产品侧可在不动主干权重的前提下接入外部编码器提升推理准确率并降低端到端延迟，报告称 Llama-3.2-3B 上每题延迟下降 19%。研发上需要额外训练与维护编码器，并评估其与现有推理链、缓存和部署流程的兼容性。

• 在已部署的冻结开源模型前接入外部编码器，作为可插拔的推理增强组件，按业务场景单独迭代
• 针对延迟敏感的数学与推理类应用，评估用潜在推理前缀替换长思维链以降低单题响应时间
• 在多域语料上训练通用编码器，减少为数学、科学、常识等任务分别做适配的工作量
• 以答案正确性为奖励，对编码器建立持续强化与回归评测流程，避免影响主干原有行为

• INTACT 在更大规模主干模型或其他模型家族上的效果是否一致，尚不清楚
• 潜在推理前缀的可解释性与可控性如何，出错时是否可定位和干预
• 蒸馏与强化阶段所需的训练数据规模、标注成本和工程资源未被说明
• 延迟下降 19% 是否在批处理、不同硬件和不同生成长度下同样成立