数学 AI 安全研究所：像密码学家证明密码不可破解那样证明 AI 安全

加拿大数学家 Jacob Tsimerman 在获得 Fields Medal 后宣布成立 Mathematical A.I. Safety Institute（MAISI），其目标是用密码学家证明密码不可破解的方式来证明 AI 的安全性。该消息由 The Decoder 报道，证据仅包含这一条成立声明，未披露机构成员、资金来源、具体研究路线或时间表。

此前 AI 安全验证多依赖经验测试、红队评估和基准评测，结论带有概率性和场景局限。MAISI 提出以数学证明的方式给出安全保证，若路径成立，安全论证的形态可能从“测出来”转向“证出来”，这是相较于现有实践的重要方向变化，但目前仅停留在机构成立声明层面。

密码学的安全性不靠穷举攻击验证，而靠归约证明：把破解难度归约到公认的数学难题上。MAISI 的设想是把这一范式迁移到 AI 安全，即用形式化定义和数学证明替代或补充经验性测试。证据未说明具体针对哪类 AI 系统、证明对象是训练过程、模型行为还是部署边界，因此机制细节尚不明确。

若数学证明路径可落地，AI 产品的合规与安全评估可能新增“形式化证明”这一交付物，研发流程中需提前做形式化建模和规约定义，安全团队角色也可能变化。但证据未给出任何工具、标准或合作方，短期内对现有产品研发和成本结构尚无直接可验证影响。

• MAISI 的具体研究路线、首批项目和时间表是什么？
• 该机构由哪些成员组成，资金来源和治理结构如何？
• 形式化证明方法将针对哪类 AI 系统或安全属性？
• 是否已有企业、监管机构或学术机构参与合作？