Anthropic 的 Claude 可自动编写代码并证明其安全

Anthropic 让 Claude 为 123 个开源库生成数学证明，以证明现有代码正确，共产出约 1.8 亿行证明代码；在此过程中，模型发现了多年常规测试未能发现的缺陷。Anthropic 表示，其目标是让 AI 辅助的形式化验证像标准测试一样日常化。

此前形式化验证高度依赖稀缺专家、成本高且难以规模化；该报道显示 Claude 能批量生成机器可检验的正确性证明，并发现常规测试遗漏的缺陷，意味着验证环节可能从人工抽查转向自动化覆盖。

机制是让模型把代码正确性主张转化为数学证明，再由证明检查器判定；若证明可通过机器检验，结论不依赖模型自述。报道中的规模来自对多个开源库批量生成约 1.8 亿行证明代码，从而扩大验证覆盖面。

研发流程可在测试之外增加自动生成证明的验证步骤，用于识别长期测试漏掉的缺陷；对维护开源依赖或高可靠性系统的团队，可能减少人工形式化验证投入，但需评估证明生成与检查的成本。

• 在 CI 流程中试点接入 Claude 生成形式化证明，先覆盖少量核心模块，统计缺陷发现率与耗时。
• 面向开源维护团队提供自动化验证服务，输出可机器检查的证明与问题报告，按项目收费。
• 为内部关键代码建立证明生成与检查流水线，将验证从一次性评审变为每次提交后的自动步骤。

• 报道未说明证明检查所用的工具链及证明通过率。
• 1.8 亿行证明代码中由人工复核或机器检查的比例未披露。
• 发现的缺陷具体数量、类型和所属项目未在证据中给出。
• 该能力是否对第三方开放、定价和可用范围尚不明确。