Why2Speak：为弃权行动策略提供忠实推理

arXiv 论文《Why2Speak》研究多智能体对话中助手在发言与沉默间决策的可信推理。研究者用 Qwen3-8B 对比直接决策、推理、监督微调和强化学习等策略，发现能力与可审计性存在权衡：直接策略质量高但无推理痕迹，推理策略留有痕迹但召回率较低。监督微调或抑制推理或保留推理但未改善决策质量，强化学习也未能提升推理策略。

此前多数研究假设暴露推理不会影响被审计策略，且标准忠实性指标有效。该论文通过控制探针和行为消融证明这些方法可能高估推理与决策的关联，概率指标在自信决策下饱和，探针易受类别不平衡影响，提示现有可解释性评估需更审慎。

组相对目标函数在采样轨迹全部选择相同动作时，对高置信错误提示无学习信号，导致强化学习无法改进推理策略。概率型忠实性指标在自信决策时饱和，探针受类别不平衡与文本特征干扰，导致高估推理忠实性。

若产品依赖推理日志来审计 AI 助手决策，需警惕推理痕迹可能不忠实。能力与可审计性权衡意味着追求高决策质量可能牺牲可解释性。部署监控、安全审计人机协同需重新评估证据的可信度。

• 该发现对更大规模模型（如 Qwen3-72B）是否同样成立？
• 是否存在能同时提升决策质量与推理忠实性的优化目标？
• 论文中“行为消融”具体如何操作，其结论能否泛化到其他任务？
• 推理痕迹不忠实对现有 AI 审计合规流程的实际影响程度如何？