声誉、策略与情绪对生成式 AI 合作的影响：推理与非推理模型比较

一篇 arXiv 论文用迭代囚徒困境测试前沿生成式 AI 模型的合作倾向，操纵对手声誉（正面、未知、负面）、策略（勒索或慷慨）以及非语言情绪信号（竞争或合作表情）。第一项研究中，非推理模型 Claude 3.5、Gemini 2.0 Flash、GPT-4o 的合作行为受三个因素系统影响，但与人类研究类似，各模型对因素的权重差异较大。第二项研究中，推理模型 Claude 4.6、Gemini 3、GPT-5.2 更集中依赖策略与声誉，非推理模型中观察到的 Potemkin 效应几乎消失，情绪作用更依赖条件。

此前关于 AI 合作行为的研究多集中在单一模型或单轮场景，且很少同时比较推理与非推理模型。该研究把人类行为研究中成熟的声誉、策略和情绪操纵框架搬到多个前沿模型上，发现推理模型并未简单变得更“社会化”，而是改变了线索权重和终局行为，且不同模型的被利用风险存在差异。

论文用迭代囚徒困境和诊断性和谐博弈作为测量工具，通过控制声誉、策略与表情信号观察合作率变化。推理模型的合作更集中于策略和声誉，情绪信号只在特定条件下起作用，符合层级式线索加权，而非失去社会敏感性。终局行为从持续合作到最后一轮背叛不等，说明模型在有限轮次博弈中的策略外推程度不同。

若把这些模型用于谈判、采购、客服或自动化代理等多轮交互场景，对手可通过塑造声誉或情绪信号影响其让步幅度；推理模型的终局背叛倾向则可能导致长期合作关系在收尾阶段被破坏。产品团队需要按模型分别评估可被利用程度，并在提示词或策略层加入约束，而不是假设推理模型天然更稳健。

• 在多轮谈判或定价代理上线前，按模型建立声誉、情绪与终局行为的对照测试集，输出可被利用风险评分。
• 为采购、客服等会话代理增加终局保护规则，例如最后若干轮禁止单方面让步或背叛。
• 将声誉与情绪信号识别作为独立可配置模块，允许产品按场景调高或调低其权重。
• 面向企业客户提供模型合作行为评测报告，帮助选型时区分推理与非推理模型的风险画像。

• 研究中使用的具体博弈轮数、收益矩阵与提示词设计未在摘要中给出，结论能否外推到真实商业谈判尚不明确。
• Potemkin 效应在论文中的精确定义及其消失对实际部署的含义未被充分说明。
• Claude 4.6、Gemini 3、GPT-5.2 等模型名称是否为正式版本名称，证据中未作说明。
• 推理模型终局背叛差异是否随温度、系统提示或上下文长度改变，摘要未提供。