FACTWASH：捕捉 AI 将传闻改写为事实的"洗白"现象

研究人员提出 FACTWASH 概念与开源工具 factwash，用于检测 AI 在改写信息时抹除可核查性、来源、置信度及时效性的现象。该工具在 mem0 2.0.7 上可标记 5/8 的模糊传闻改写，并基于 105,596 个标注句子评估了多种检测方法。

此前缺乏确定性检测 AI 改写中信息可核查性丢失的方法，FACTWASH 提供开源、非 LLM 的判断门，并量化了不同场景下的失败率（对话传闻中 55%，商务邮件中 7%），为部署者提供决策依据。

检测效果取决于问题是否具有有界的表面线索库。显式否定线索可枚举，词表即可达到 0.91 F1；而模糊限制与来源归属表达开放，词汇法召回率仅约一半，需借助 LLM 见证器提升召回（+17、+15 点），但可能只降低判定等级，换取精确率而非覆盖率。

对集成记忆系统（如 mem0）的产品，FACTWASH 可作为写入前门控，降低 AI 输出虚假事实的风险，但需先评估自身场景是否高发（如对话类应用）。对开发成本影响有限，词表方法轻量，LLM 见证器可按需启用。

• 在对话类 AI 产品中加入 factwash 门控，标记可疑改写，降低事实错误传播。
• 为商务邮件场景设计轻量词表检测器，因失败率仅 7%，可低成本实现。
• 将检测结果作为日志证据，供用户追溯信息来源，增强透明度。
• 开发结合 LLM 见证器的混合模式，仅在词表检测不确定时调用，平衡成本与召回。

• FACTWASH 在实时生成场景中的延迟与成本表现如何？
• 除对话和邮件外，其他领域（如医疗、法律）的失败率是否不同？
• 事实清洗检测是否会被对抗性改写绕过？