广泛探索与锐利推理：通过采样让小模型逼近前沿

一篇 arXiv 论文提出 Parallel Power Tempering（PPT），用并行回火方式实例化 power-sharpened 采样：并行运行多个不同锐化程度的交互副本，低锐化副本负责广泛探索推理路径，高锐化链负责利用高概率回答。论文称其缓解了此前 power sampler 的截断偏差，并设计了有限内存与算力下的交换策略，实验显示优于单链锐化采样和 RL 后训练模型，推理表现接近前沿模型。

此前提升 LLM 推理多依赖 RL 后训练，需要参数更新、外部奖励和昂贵优化，且泛化不稳定。该工作把这一能力转向纯推理时采样，声称无需参数更新即可获得更高质量推理轨迹并超越 RL 后训练模型，若结果可复现，将改变小模型能力提升的成本结构。

强锐化会放大高概率序列但限制探索，使采样困在看似合理却错误的推理链；弱锐化则让答案分布过于分散。PPT 让多个不同锐化水平的副本并行交互，低锐化副本维持路径多样性，高锐化链收敛到目标偏好的高似然响应，并通过针对截断偏差的修正和副本交换策略，在有限算力下平衡探索与利用。

对产品与研发而言，提升推理能力可能从训练阶段部分转移到推理阶段：不重训模型，而是增加并行采样与副本交换的算力开销。这会影响推理成本结构、延迟与显存预算，也意味着小模型可在不更新参数的情况下获得更接近前沿模型的输出质量，部署侧的调度与资源分配需重新权衡。

• 在推理服务中增加不同锐化水平的并行采样与交换调度模块，作为可开关的推理增强选项
• 针对数学、代码等可验证任务，先做离线对比实验，测算 PPT 相对 RL 后训练的准确率与单位推理成本
• 为小模型 API 产品设计分层推理档位，按预算选择副本数量与交换频率
• 把截断偏差修正与副本交换策略工程化，验证在有限显存下的实际吞吐上限

• 论文声称接近前沿模型的具体评测集、基座模型与对比基线尚未在证据中列出
• PPT 的推理延迟、显存占用和单次请求成本相对 RL 后训练模型的量化差异未知
• 截断偏差修正的具体方法与副本交换策略细节未被证据披露
• 该结果能否在证据之外的独立复现中成立仍待确认