- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月22日 15:14
- 状态
- 单一信源
发生了什么
一篇 arXiv 论文指出,治理语境中描述 AI agent 的词汇——学习、记忆、价值观、合规、身份、信任——借自心理学与组织科学,导致组织在部署、监督和问责 agent 时出现系统性失败。作者称其为学科语言迁移问题,认为这不仅是术语问题,而是认识论问题:心理学术语把母学科的隐形语法带入治理话语,把框架校准到一个当前 AI 架构中并不存在的形而上实体。论文提出三层迁移与六项认识论假设,并给出可操作 Disciplinary Audit 与三十七项术语翻译表。
为什么重要
此前关于 AI agent 治理的讨论多聚焦能力评估、对齐技术或合规流程,较少质疑治理话语本身借用的学科词汇是否适用。该论文把失败归因从执行层上移到认识论层,指出同一套词汇把 agent 预设为有发展连续性的心理主体,从而使监督与问责框架系统性失准,并给出可扫描的审计工具与术语替换表,使这一问题从批判转为可操作。
底层逻辑
论文借助 Wittgenstein 的语言游戏、Kuhn 的范式负载观察、Haraway 的处境知识以及 Star 和 Griesemer 的边界物理论,说明术语迁移发生在三个层面:认识论假设、理论构念和表面词汇,每层需要不同补救。心理学术语携带其母学科的隐形语法,把治理框架校准到具有发展连续性的实体上,而当前 AI 架构不具备这种连续性,因此基于学习、记忆、价值观、身份和信任的治理判断会系统性偏离实际系统行为。
产品与商业机会
对产品与研发团队而言,agent 产品的文档、评估表和合规材料中若沿用心理学词汇,可能使内部对齐目标和外部审计标准同时偏离实际架构。采用论文提出的六问治理文档扫描和术语翻译表,可把学习、记忆、信任等表述改写成与 agent 实际能力对应的操作构念,降低误判带来的监督成本和问责争议,并让产品需求与验收标准更贴近可观测行为。
- 将论文的六问 Disciplinary Audit 做成治理文档扫描清单,用于 agent 产品的合规与风控评审。
- 把三十七项术语翻译表产品化为术语库或写作辅助工具,嵌入 agent 产品文档与评估报告流程。
- 面向企业 AI 治理团队提供基于该审计框架的培训或咨询,输出可复用的术语替换规范。
仍待确认
- 论文全文与完整三十七项术语翻译表尚未在证据中给出,其可操作性有待核实。
- 该 Disciplinary Audit 是否经过实证验证或企业试点,证据中未说明。
- 六项认识论假设的具体内容及其哲学来源在摘录中被压缩,无法确认细节。
- 该框架对不同 AI agent 架构的适用边界尚不明确。