基于智能体的网络阴谋论检测框架

一篇 arXiv 论文提出：社交媒体上的阴谋论话语往往没有显式断言或稳定词汇标记，同一表层内容可能表达支持、合理关切、批评、讽刺或嘲弄，因此核心难点不只是识别相关主张，而是推断说话者的意图（即话语的言外之力）。作者主张借助相关社会语境来实现该目标，并提出一个配备社会查询工具的智能体框架，在覆盖 2018 年底至 2023 年初四年间、约占希伯来语公开推文 80%–90% 的数据集上验证，涵盖多轮选举周期与新冠疫苗推广。在人工标注的对抗性数据集上，语境感知流程持续优于纯文本分类，且该智能体框架显著优于其他框架与设置。

此前阴谋论检测多依赖显式主张或固定词汇特征，容易把讽刺、批评与合理关切误判为认同。该工作把任务重新定义为社会语境中的意图推断，并给出覆盖四年、跨选举与疫情的大规模语料实验结果，显示仅提供同样的语境还不够，还需要智能体式的自适应推理，这为内容审核与舆情分析提供了新的方法基线。

论文的机制是：把阴谋论判定从表层文本匹配转为推断话语意图，通过社会查询工具抽取相关社会语境，再让智能体据此自适应地调用工具、逐步推理得出判断。实验同时对比了纯文本分类、仅接触语境但非智能体的模型，结果显示语境获取与自适应推理两者结合才能带来最佳表现，作者还分析了错误类型与 token 消耗效率。

对内容审核、舆情监测和社交平台风控而言，这意味着单纯的关键词或文本分类模型存在系统性盲区，产品可考虑引入带工具调用的推理型智能体来补足意图判断。但论文也提示 token 成本与效率存在权衡，因此落地时需要在大规模流量下设计分层策略：先低成本初筛，再对高风险或歧义样本调用智能体复核。

• 为内容审核团队构建分层流水线：先用轻量分类器筛选可疑样本，再调用带社会语境查询工具的智能体做意图复核。
• 面向舆情与品牌监测产品，开发支持社会查询工具的推理模块，用于区分讽刺、批评与真实认同类内容。
• 针对希伯来语等非英语市场，评估是否可复用该论文的语境抽取与标注方法建立本地化检测能力。

• 论文摘要未说明所用智能体具体由哪些模型驱动、工具集合的具体构成，以及推理成本的具体量化结果。
• 该框架在希伯来语推文之外的语言与平台上是否可迁移，尚未被证据确认。
• 人工标注对抗性数据集的规模、标注一致性指标与开源情况未在证据中说明。
• 社会查询工具可访问哪些数据源、是否存在隐私与合规限制，证据未涉及。