白洗仇恨与抹黑无害内容：针对 LLM 审核的标注员式反驳攻击研究

arXiv AI 发表研究，探讨标注员式反驳攻击对 LLM 内容审核的影响。实验表明，此类反驳能显著降低审核性能，多轮场景下效果更强，且白洗与抹黑存在模型特定不对称性。显式推理提示和防御指令可缓解但无法根除，研究呼吁方向感知防护与反馈鲁棒性评估。

该研究首次系统比较了两种相反方向的反驳攻击，揭示 LLM 审核在人工反馈环节存在方向性脆弱点，威胁人机协作审核流程的可靠性，挑战现有防御方法的有效性，推动审核系统设计需考虑反馈鲁棒性。

LLM 审核中，人工反馈可在最终决策前修改模型判断，攻击者利用标注员风格的反驳意见，通过直接矛盾、决策边界扰动和对抗性理由，诱导模型改变初步正确判断。模型对不同方向操纵的敏感性存在稳定差异，防御提示虽能部分缓解，但无法彻底消除，说明模型推理机制对反馈的信任存在结构性漏洞。

对于采用 LLM 审核的产品，标注员或恶意用户可通过反驳操纵审核结果，导致有害内容漏放或正常内容误杀，增加人工复核成本，并损害平台安全与用户体验。若攻击在多人对话中出现，影响更显著，需要研发方向感知防护机制和反馈鲁棒性评估。

• 建立反馈鲁棒性测试基准，在模型发布前评估其对反向反驳的抵抗能力。
• 开发方向感知防御模块，针对白洗与抹黑实施不同强度的验证策略。
• 设计对抗性理由检测器，在人工反馈中识别可疑的操纵性输入。
• 引入显式推理提示与防御性指令，优化人机协作审核接口以减少被操纵风险。

• 研究基于两个数据集，结论在更广泛内容类型上的泛化性未知。
• 攻击对不同规模 LLM 的影响差异尚未明确。
• 防御措施的具体实现方式与成本效益未提及。
• 是否已有产品化解决方案或实际部署案例未详述。