AI LLM引擎对全球冲突信息环境的影响

一项研究测试了5个主流AI问答引擎对28个冲突的5460个答案，发现冲突记录越稀少，引擎越容易产生幻觉（编造、误归因、错计数），且薄记录更容易被通过生成引擎优化（GEO）操纵。分析1048个网站证实GEO源优化已发生，国家党派数字捕获虽在初期但迅速增长。

此前LLM幻觉被视为随机错误，该研究揭示了幻觉模式与信息环境厚度的系统性关联，并指出薄记录存在被GEO故意扭曲的风险，表明AI在冲突信息领域的脆弱性是可预测且可被利用的。

LLM生成回答时依赖可检索的文本记录；冲突记录稀少时，模型缺乏真实证据，易自行编造。同时，薄记录因缺乏竞争性信息，更容易被恶意行为者通过GEO（生成引擎优化）在网络上大量创建偏向性内容来影响模型输出。

依赖AI问答引擎获取冲突信息的产品（如研究平台、新闻聚合器）需警惕薄记录话题中的输出偏见与错误，可能需引入来源质量评估、置信度标识或人工审核机制以降低误导风险。

• 开发信息厚度评估工具，对冲突话题的可检索记录密度进行量化并提示风险
• 在问答引擎中集成GEO检测模块，识别并标注可能被操纵的来源
• 为薄记录冲突话题提供深度本地监控与翻译研究作为AI输出的补充验证
• 设计用户界面显示答案的证据来源覆盖度，帮助用户判断可靠性

• 不同LLM架构（如GPT、Claude）对薄记录的幻觉模式是否存在显著差异？
• GEO操纵对实际用户决策的影响程度如何量化？
• 国家党派数字捕获的具体技术手段是否包括虚假网站群和自动化内容生成？
• 信息厚度阈值是多少时幻觉率开始显著上升？