通用AI时代公共服务AI治理框架为何可能失败：以警务为鉴

一篇论文指出，公共服务因需求增长和资源下降而面临应用AI的压力，通用AI（GPAI）基于大语言模型可通过提示执行无界任务。论文论证，GPAI的通用性、可及性和低部署成本破坏了传统AI安全治理的条件，使得公共服务治理框架聚焦的准确性、偏见、可解释性和问责制在GPAI下无法量化或实现。以警务为例，专家评估和人机回环监督等主流缓解措施也因假设被GPAI违反而失效。安全保证从内在特征变为可选附加物，作者建议对窄AI与通用AI进行明确分类。

此前AI治理框架基于窄AI假设，认为准确性、偏见等可量化且可控；而通用AI的出现使这些假设被推翻，既有安全方法无法适用，可能导致公共服务中AI治理系统性失败，尤其在警务等高风险领域。

GPAI的无限输出使准确性无法量化，自由文本判断使偏见无法分解，解释性沦为表面解释，问责制因输出旨在说服而削弱。专家评估和人机回环监督依赖的稳定边界和可干预前提均被GPAI的通用性和不确定性破坏，安全保证从内置设计变成事后附加。

公共服务AI产品的安全保证从研发阶段内置变为可选的附加流程，增加了治理成本与合规不确定性。产品需重新设计评估机制，但现有工具（如专家评审、人机回环）可能不适用，导致开发周期延长和风险积累。

• 开发针对通用AI输出无边界特性的定量评估新工具
• 设计基于任务分类（窄AI vs 通用AI）的分级治理流程
• 构建动态人机协作框架，适应GPAI不可预测的输出模式

• 论文建议的分类标准是否已被实际政策采纳？
• 警务以外的公共服务（如医疗、福利）是否面临相同治理失效？
• 现有GPAI模型（如GPT-4）是否已有修正措施缓解文中指出的问题？
• 论文中提及的‘安全保证变成可选附加物’在现实部署中有无成功案例？