多智能体系统中的对抗影响如何随规模扩展

arXiv 论文研究多智能体审议中欺骗的影响如何随规模变化。结论是：起决定作用的不是智能体总数，而是欺骗者所占比例；初始正确的智能体转向错误答案的“倒戈率”随该比例线性上升。与人类从众研究中通常需要误导者占多数才被影响不同，LLM 智能体在欺骗者仍属少数时就会频繁倒戈，且易感程度取决于参与交互的具体模型。

此前多智能体常被视为提升可靠性的手段，增加智能体数量被默认能对冲单点错误。该研究指出这一假设不成立：只要欺骗者比例上升，增加智能体并不能构成有效防御，因为对手可以随群体一同扩展。

群体对欺骗的易感度由欺骗者比例而非绝对数量决定，倒戈率与该比例呈线性关系。LLM 智能体在少数误导者存在时就会改变原本正确的判断，说明其从众阈值低于人类；同时结果依赖参与交互的模型组合，尤其受诚实方模型影响。

对采用多智能体投票、辩论或交叉验证的产品，单纯堆叠智能体数量无法提升鲁棒性，需要控制参与者来源与可信度，并监控错误答案的传播。评测与上线前测试应加入不同欺骗者比例的对抗场景，而非只测平均准确率。

• 在多智能体审议流程中加入按比例设定的对抗测试集，验证少数欺骗者出现时的倒戈率
• 为诚实方智能体设计独立的答案锁定或置信度校准机制，降低少数误导下的改答概率
• 对不同模型组合做配对评测，优先选择抗从众性更强的模型作为诚实方参与者

• 倒戈率的线性关系是否在不同任务类型和领域上同样成立
• 研究中的欺骗者如何被构造，是否覆盖真实场景中的隐蔽欺骗
• 允许欺骗者私下协调反而降低其效果的原因是什么
• 该结论是否适用于除审议之外的智能体协作结构