解耦边际锐化：无需训练即可在推理阶段扩展

一项 arXiv 论文提出 Decoupled Marginal Sharpening（DMS），研究在不更新模型权重、不使用外部奖励模型的前提下提升 LLM 推理表现。该方法针对现有无奖励 power-sampling 方法的两个问题：全序列锐化会把概率集中到少数推理—答案轨迹，掩盖支持同一答案的其他路径；有限粒子 SMC 反复重采样会导致路径坍缩。DMS 分离控制推理路径偏好与最终答案偏好，并配合 Fully Adapted Annealed SMC。

此前的无奖励 power-sampling 方法只对完整序列做统一锐化，容易压制同一答案下的多样推理路径，并在采样器中因重采样导致路径坍缩。DMS 把推理路径与答案边际分开控制，意味着推理时扩展的调控维度从单一强度变为两级强度，且仍不依赖权重更新或外部奖励模型。

DMS 先在锐化后的推理分布上采样，再对模型答案概率按加权推理群体做边际化，并对该答案边际再次锐化。两个独立指数中，推理锐化较温和以鼓励探索多样路径，答案边际锐化较强，把概率集中到在众多路径上获得更高聚合支持的答案。采样端用 Fully Adapted Annealed SMC 缓解有限粒子下的路径坍缩。

该方法不更新权重、不依赖外部奖励模型，因此对推理侧工程有直接意义：可在现有模型部署上叠加推理时扩展策略，调控答案聚合而非复刻单条轨迹。对需要多路径推理与答案一致性的产品场景，有望降低对奖励模型训练与微调流程的依赖，但实际延迟与粒子数成本尚不明确。

• 在已有推理 API 之上接入 DMS 式两级锐化参数，让产品按任务分别调节推理多样性强度与答案收敛强度
• 为数学、代码等有可验证答案的场景提供多路径采样加答案边际聚合的评估流程，对比单序列锐化基线
• 围绕 Fully Adapted Annealed SMC 的粒子数与重采样策略做成本—准确率调优，形成推理时算力配置模板

• DMS 在两个锐化指数上的默认取值或调参方法是否有明确指引
• 相比 Metropolis-Hastings 与 SMC 基线，DMS 在标准推理基准上的具体提升幅度是多少
• Fully Adapted Annealed SMC 的额外计算与延迟开销有多大
• 该方法在开源模型与闭源模型之外的泛化性是否有实验支持