推理微调诱发持续潜在策略状态

研究者通过切换动力系统模型分析语言模型的内部表征，发现推理微调后的模型在1.5B至32B参数规模上均表现出比基础模型更丰富的潜在策略组织，包括更差异化的状态转换结构和功能专门化。因果实验表明，这些状态具有功能意义：替换或移植它们可影响推理性能，且基于这些状态的剪枝方法优于已有基线。

先前不清楚推理微调是改进局部token预测还是全局推理结构；该研究通过因果干预证明微调改变了模型的时间组织，使内部状态与推理阶段功能对齐，为理解大模型推理机制提供了新视角。

将CoT推理建模为切换动力系统，通过时间感知对比学习和离散状态发现，从激活轨迹中恢复潜在策略状态。推理微调使状态转移更复杂、持久且混合，且状态具有功能专门化；因果干预（状态交换或移植）证实其因果作用，而非仅相关性。

• 该发现是否适用于非CoT推理任务（如直接答案生成）？
• 更粗粒度的推理步骤（如多步规划）是否也能用该框架建模？
• 模型规模超过32B时，潜在策略状态的组织规律是否会变化？
• 基于状态剪枝的方法在实际部署中的计算收益与精度权衡如何？