反思引导：在激活空间中解耦反思与推理，实现 token 高效推理

arXiv AI 发表论文《Reflection Steering》，提出一种无需训练的框架，通过对比反思与非反思隐藏状态、PCA 去噪并正交化于通用推理方向，在推理模型中解耦反思与推理。实验表明，在三个开源 LLM 和两个公共基准上，平均减少推理 token 16.9%，并引入可调参数 α 以平衡效率与准确性。

现有反思引导方法通常添加标签导出的均值差方向，但易与推理和长度信号纠缠，导致效率与准确性的权衡不稳定。新方法通过 PCA 去噪和正交化，分离反思相关激活，并跨层校准以限制早期层干预的放大效应，从而在保持准确性的同时显著减少推理 token，为提升推理模型效率提供了新路径。

方法的核心在于对比每层反思与非反思隐藏状态，提取反射方向，利用 PCA 去除噪声，并与通用推理方向正交，避免信号混叠。通过在小规模集上校准各层干预强度，保留稳定层，并对残差流激活应用有界投影去除，防止早期层干预被下游放大。干预强度参数 α 允许部署时调整 token 节省、准确性与生成稳定性之间的平衡。

该技术可直接应用于推理模型推理过程的 token 优化，减少推理链路延迟和计算成本，尤其适用于对响应速度敏感的产品（如聊天机器人、实时分析工具）。部署时可通过调整 α 灵活控制效率与质量，降低推理资源消耗，提升用户体验。

• 在推理模型中集成 Reflection Steering 模块，提供可配置的 token 节省与准确性权衡，应用于 AI 助手产品以降低成本并提升响应速度。
• 将反射干预强度参数 α 暴露给用户或运营团队，根据场景（如对话、代码生成）动态调整，平衡实时性与回答质量。
• 基于该方法开发推理效率优化工具，供企业客户在自建 LLM 服务中部署，按 token 节省量作为增值服务卖点。

• 实验基于三个开源 LLM，未覆盖商业模型，该方法在不同架构（如 MoE）上的通用性未知。
• 16.9% 的 token 减少率是否在更长推理链或复杂任务中保持，证据未明确。
• 干预强度参数 α 的调整对生成稳定性的具体影响范围，证据未给出数值界限。