每家 AI 实验室都自认负责任，安全研究者称这反而维系了军备竞赛

The Decoder 报道称，Redwood Research 首席科学家 Ryan Greenblatt 估计，如果 AI 开发延续当前路径，AI 接管风险为 50% 至 60%。Sam Harris 指出，这一数字与行业推进速度不相称，因为曼哈顿计划科学家在风险达 10% 时就可能叫停项目。Greenblatt 将问题归因于 Anthropic 与 OpenAI 之间的竞赛动态，并表示寄望于一项国际协议。

此前行业安全讨论多聚焦单家实验室的技术对齐，而 Greenblatt 将风险归因转向竞赛结构本身，并给出 50% 至 60% 的接管风险估计。这一表态把安全议题从实验室内部实践提升到行业竞争机制与国际协调层面，值得产品与战略决策者关注。

各家实验室都认为自身在负责任地推进，因而都不愿率先放缓；一旦放缓，可能被竞争对手超越。这种集体行动困境使单方面减速缺乏激励，Greenblatt 因此认为仅靠实验室自律不足以改变轨迹，需借助国际协议等外部约束来改变激励结构。

若竞赛动态被更广泛讨论，AI 产品团队可能面临更严格的安全披露、模型评估与发布审查要求，研发节奏和合规成本可能上升。依赖持续快速迭代以维持竞争力的产品路线，可能需要预留更多安全验证时间与资源。

• 针对 AI 实验室与企业的模型安全评估与审计工具，可帮助团队在发布前量化并记录风险指标。
• 面向跨国企业的 AI 治理与合规咨询服务，协助其跟踪国际协议进展并调整部署策略。
• 建立公开的 AI 风险情景对比平台，让产品团队能参考不同风险估计值做发布决策。
• 为模型开发者提供减速或暂停情境下的业务连续性规划模板与工具。

• Greenblatt 的 50% 至 60% 接管风险估计基于何种具体假设与模型，证据未说明。
• Anthropic 与 OpenAI 是否对 Greenblatt 的竞赛动态归因作出回应，尚不清楚。
• 所寄望的国际协议目前处于何种谈判或推进阶段，证据未提供。
• Sam Harris 提到的曼哈顿计划 10% 风险叫停说法，其具体依据未被展开。