漏洞评估中的AI垃圾与幻觉：推理失败与可信缓解措施综述

一项综述调查了LLM在漏洞评估中产生的“AI slop”现象，包括幻觉漏洞、错误补丁和重复报告，对人工分流造成认知负担。论文提出了分类体系，指出根因是因果推理与自回归生成的差距，并通过可测量的Deductive Coverage Score代理指标，论证了思维链和工具使用代理只能缩小但不能消除该差距，最后提倡主动神经符号验证并提出了CVE-Bench和Slop-Score评估工具。

此前LLM在安全领域的整合多被描述为能力提升，本综述聚焦其产生的“AI slop”对人工分流管道构成类似拒绝服务攻击的认知负担，首次系统化分类并指出被动检测和水印因熵约束无法保障正确性，标志着评估标准正从语言流畅性转向数学可验证性，对安全产品设计有方向性影响。

LLM采用自回归概率生成，与安全专家依赖因果演绎推理存在结构性差距，导致产生看似合理但错误的输出。该差距可通过Deductive Coverage Score量化，思维链和工具代理虽改善但未消除。被动检测关注来源而非正确性，受信息熵理论限制。主动神经符号验证将管道组件映射到有安全输入限制的系统，从数学上验证结果。

安全产品若集成LLM进行漏洞分流，需在推理链路中引入神经符号验证层，否则“AI slop”将增加人工审核成本并可能误导修复。评估指标需转向可验证性，内部质检流程应纳入类似CVE-Bench和Slop-Score的测试基准。对依赖LLM生成安全建议的功能，需重新评估其输出可靠性和用户信任。

• 构建面向漏洞评估的神经符号验证中间件，自动筛选LLM输出中的幻觉条目。
• 开发基于Deductive Coverage Score的评估工具，帮助安全团队量化LLM推理可靠性。
• 提供“AI slop”过滤器作为SaaS服务，集成到现有漏洞管理平台。

• Deductive Coverage Score是否经过实证验证，其有效性证据不足。
• 论文是否提供了CVE-Bench和Slop-Score的具体性能或基准测试结果？
• 神经符号验证在真实漏洞评估中的计算成本和准确率尚不明确。