保护 AI 生成的代码：一种即时漏洞检测与修复流水线

arXiv AI 发布论文，介绍一个自动化安全评估流水线，用 CodeQL 和 Bandit 并行扫描 LLMSecEval 生成的 Python 代码，并用独立的 Code Validator LLM 丰富发现，再通过 Code Generation LLM 生成修复，最后重新扫描验证。两种配置（P1、P2）在四个 Claude 模型上共运行 80 次，覆盖 9 个 CWE 类别。P1 将静态分析发现减少 9% 至 54%，P2 进一步减少 29% 至 69%，P2 对所有模型都更优。修复在 15% 至 22% 的案例中引入了新漏洞。

此前 AI 辅助编码缺乏在开发速度下检测、丰富、修复并验证安全问题的自动化机制，尤其是未结合真实威胁上下文。该流水线将静态分析、独立 LLM 验证和 MITRE ATT&CK 等威胁情报结合，大幅降低漏洞率，为 AI 编码工具的安全保障提供了可验证的自动化路径。

流水线先由 Code Validator LLM 与静态工具并行发现漏洞，再用威胁情报丰富上下文，使代码生成模型基于更全面的信息修复，最后重扫验证。P2 额外输入初始静态发现，提升了修复效果，但修复仍可能引入新漏洞，说明修复过程存在固有风险，需要平衡减少与新增的漏洞。

对使用 AI 编码工具的产品团队，该流水线可集成到 CI/CD 中，在开发即时发现并修复漏洞，减少后期修复成本。但修复有约 15%-22% 概率引入新漏洞，需增加回归测试和漏洞监控。不同模型的修复效果差异大，选择模型需权衡性能与安全性。

• 为内部 AI 编码工具集成类似的即时漏洞检测-修复-验证流水线，可先在 Python 项目试用并评估对不同代码库的效果。
• 参考 P2 配置，在修复时引入初始静态分析结果和威胁情报，优化修复准确率，降低新增漏洞比例。
• 基于该流水线开发安全插件或服务，提供给使用 AI 编程助手的开发团队，作为增值功能。
• 选取表现稳定的模型（如 Haiku 4.5 在 P2 中降幅最大）搭配流水线，形成最佳实践并持续监控新漏洞引入率。

• 流水线对除 Python 以外的语言（如 JavaScript、Java）是否同样有效？证据未涉及。
• 修复引入新漏洞的 15%-22% 案例中，新漏洞的严重程度分布如何？证据未说明。
• P1 和 P2 的具体配置细节（如模型参数、上下文长度）是否会影响结果可复现性？证据未提供。
• 该流水线在实际开发中的成本（如运行时间、计算资源）是否可控？证据未提及。