Anthropic 提议 AI 安全法案：可能致 50 人以上死亡即可封禁模型

TechCrunch AI 报道，Anthropic 提出一项 AI 安全法案主张：当模型可能导致 50 人以上死亡时，应允许阻止其发布。但报道同时指出，该提案表面提供 AI 失控防护，实际却规定联邦机构若无法官许可，不得阻止模型发布。

这项提案把“大规模人员死亡风险”写成干预门槛，同时把最终封禁权交给司法审查，而非由行政机关直接决定；这意味着安全监管从行政快速处置转向司法前置授权，企业发布流程和监管路径都可能改变。

提案以伤亡规模设定触发条件，并引入法官许可作为联邦机构阻止发布的程序前提。其机制是把风险评估与发布禁令分离：先设定风险阈值，再通过司法程序约束行政权力，避免监管机构单方面下架模型。

若该框架被采纳，模型发布前的风险评估需能对应“50 人以上死亡”这类后果判断；产品团队可能需要留存风险论证与合规记录，发布节奏也可能因潜在司法审查而延长。

• 建立模型发布前的风险评估模板，把可能导致大规模伤亡的场景列为必填审查项。
• 为产品团队设计合规档案功能，记录风险判断依据，以备未来行政或司法审查调用。
• 跟踪该法案文本与立法进展，评估是否调整模型上线审批流程。

• “50 人以上可能死亡”的具体评估标准和举证责任由谁承担？
• 法官许可机制适用于哪些模型类别和发布阶段？
• 该提案是否已进入正式立法程序，还是仅为政策主张？
• Anthropic 提出该方案的具体动机和完整文本尚未披露。