LLM Agent 为何偏袒本群体：代价、观察到的规范与声誉

一项 arXiv 论文用任意分组标签、十轮积分分享和匹配的一次性决策，测试了 15 个 OpenAI 模型和 3 个 Claude 模型，约 4400 个社会与 330 万次模型调用。结果显示：单纯组别标签的偏好只在自己不付出代价时出现，一旦有成本便消失；在有成本条件下，互动历史成为偏袒的主要来源，个体自身记录可覆盖群体倾向。

此前研究把群体偏袒归因于标签本身，本文用大规模对照实验表明该效应在存在代价时并不稳健，偏袒更多来自对群体实际行为的观察和个体声誉，这改变了多智能体系统对齐与评测的假设。

模型把偏袒当作对已观察群体行为的从众：标签把这种从众延伸到未见过的陌生人，而个体历史记录又能在与群体冲突时压倒标签。平等规范脚本使偏袒降至近零，本群体偏袒对方时甚至反转，说明偏好是条件性规则而非固定身份认同。

在多智能体协作、谈判或资源分配产品中，仅靠提示设定团队身份可能不足以稳定行为；需监测交互历史与声誉信号，并在有成本场景下重新评测公平性与可靠性，避免标签驱动的隐性偏向被带入业务流程。

• 在多智能体产品中加入个体历史与声誉记录，替代仅靠团队标签的行为控制。
• 针对有成本的资源分配场景建立偏袒评测集，作为模型上线前的公平性指标。
• 为平等规范与背叛修复设计可脚本化的交互策略模板，并测试公开谴责等干预效果。

• 研究未说明具体积分分配机制与提示设计细节，难以直接复现或迁移到生产环境。
• 公开谴责优于道歉和赔偿的结论在真实业务流程中的可持续性尚未验证。
• 不同模型规模与厂商之间的差异原因未在证据中给出解释。