从被动响应到主动纠正：增强大语言模型对输入事实扰动的鲁棒性

arXiv 论文提出 DEDUCE 框架，将 LLM 从被动响应转为主动纠错，通过三阶段（检测、策略制定、纠正）处理输入中的事实扰动。引入 MisFactQA 数据集和评估指标，在 TruthfulQA、FalseQA 和 MisFactQA 上显著提升准确率和纠错能力，并在 Qwen、LLaMA、Gemma 系列中一致有效。

现有幻觉缓解方法假设用户输入可靠，未考虑输入中事实错误对模型推理的误导。DEDUCE 首次系统性地针对输入事实扰动提出三阶段纠正框架，将模型从被动输出转为主动纠错，为提升鲁棒性提供新路径，并配套数据集与评测指标，推动评测标准化。

DEDUCE 先通过细粒度事实提取与验证检测输入错误，再通过多视角 deliberation 制定纠正策略，最后在提供答案时纠正误解。该机制使模型识别并修正错误前提，而非盲目响应，从而减少因输入事实扰动导致的错误输出，提升准确性与纠错能力。

对依赖 LLM 回答事实性问题的产品（如客服、知识助手）有直接价值：可减少因用户误导性输入产生的错误答案，提升用户体验与信任。实施需引入三阶段管线，可能增加推理延迟与计算成本，但可降低后续人工纠正成本。

• 在客服机器人中集成 DEDUCE 的检测阶段，对用户前提进行事实校验，提示纠正而非直接应答。
• 开发面向问答系统的鲁棒性评测工具，采用 MisFactQA 指标评估模型对错误前提的抵抗力。
• 在教育类产品中利用 DEDUCE 纠正学习者的错误表述，提供基于事实的反馈。
• 将 DEDUCE 的纠错能力嵌入 RAG 流程，提升检索内容与用户问题不一致时的处理能力。

• DEDUCE 在非英语或低资源语言上的效果是否一致尚待验证。
• 三阶段流程在实时场景中的延迟与成本具体影响未量化。
• 框架对多轮对话或长上下文中的事实扰动处理能力未提及。
• MisFactQA 数据集的具体规模、错误类型分布及开源情况未说明。