单独一致，群体错位：预测 LLM 代理群体中的对抗性捕获

arXiv AI 的一项研究指出，当前 AI 安全评估仍以单个模型为单位，但语言模型代理往往在相互读取决策的群体中部署。研究发现，单个代理判断几乎相同的两条警报，在群体中可能使集体行为大相径庭；且这种集体行为可在攻击前预测。让代理看到彼此的推理会抵消弱攻击，对强攻击则只能延迟。

此前 AI 安全审计只评估单个模型，无法反映群体交互影响。该研究首次证明，单代理校准不代表群体安全，群体行为可在对抗攻击前被预测，为多代理系统的安全评估提供了新方向。

研究通过安全分流任务，注入少数派持续推动某一决策，观察群体整体行为。从无对抗运行中校准响应函数，可预测少数派能推动群体多远。代理间的推理可见性会改变影响程度；移除注入代理后群体恢复，说明捕获是暂时状态，而非不可逆。

对依赖多代理协作的产品（如安全运营中心）有直接影响：需从群体层面而非单代理评估安全性，避免因个体对齐而忽略群体偏差。产品研发需加入群体行为预测与对抗测试。

• 开发多代理群体安全评估工具，在攻击前预测群体响应偏移
• 为代理群体设计推理可见性开关，以抵御弱对抗攻击
• 将群体捕获检测集成到安全监控产品中，实现临时捕获告警

• 该方法是否适用于安全分流之外的其他任务类型？
• 除少数派比例和推理可见性外，还有哪些因素影响群体捕获程度？
• 群体恢复至初始状态的具体时间与条件是什么？