评估推理时防御方法对LLM生成代码中包幻觉的影响

该论文评估了针对LLM生成代码中包幻觉的推理时防御方法，发现此前评估方法高估了幻觉率（Python高估9.4个百分点）。研究比较了七种防御策略，显示RAG在多数配置中降低包幻觉率，但Greedy解码在缓解与实用性间权衡最佳。对抗性提示下，RAG和Self-Refine表现优于纯解码方法。

此前研究高估了LLM包幻觉率，导致防御措施的效果被误解。该研究首次系统比较多种推理时防御，并引入新指标衡量实用性，为选择防御策略提供依据。对抗性测试显示纯解码方法脆弱，强调需要检索或自我修正等外部机制，这对供应链安全有实际意义。

LLM在生成代码时可能编造不存在的软件包，形成供应链攻击入口。推理时防御通过调整解码策略、自我修正或检索增强来减少此类幻觉。RAG通过检索真实包信息减少幻觉，但可能降低实用性。Greedy解码简单且平衡，但对抗性提示下失效，说明需要更鲁棒的机制。

对使用LLM代码生成工具的产品，如AI编程助手、代码生成API，需注意包幻觉风险。在选择防御策略时，需权衡安全性与推荐质量。高幻觉率语言（如Ruby）需特别防护。对抗性输入可能放大风险，产品应结合RAG或自我修正机制，并评估对用户体验的影响。

• 在AI代码生成产品中集成RAG检索真实包信息，并对比Greedy，以降低包幻觉。
• 针对易受攻击语言（如Ruby）开发专项防护模式，提高供应链安全性。
• 利用Package Utility指标评估防御策略对推荐质量的影响，优化产品权衡。
• 为安全敏感场景提供对抗性防御选项，增强用户信任。

• RAG在具体产品中的实施成本和延迟影响未量化。
• Package Utility指标在不同实际场景中的有效性未验证。
• 对抗性提示在真实攻击中的频率和严重性未知。
• 论文未说明各防御策略在不同规模模型上的具体表现差异。