基于组合界与安全持久性的 LLM 多轮认证稳健性

arXiv AI 发布论文，提出多轮认证稳健性框架（MTCR），针对大型语言模型的多轮越狱攻击。MTCR 通过状态对抗 MDP 建模，引入组合认证和安全持久性，将安全下限从指数衰减改善为 β^k，并验证了在六个 LLM 上的有效性。

此前认证稳健性方法仅处理单轮输入，多轮组合会导致安全界限指数级退化。MTCR 首次提供多轮认证框架，显著改善了退化率，为多轮对话安全提供了可验证的保证，填补了该领域空白。

MTCR 将对话安全建模为状态对抗 MDP，通过嵌入空间模式分解获得更紧的下界，并引入 (α,β)-安全持久性改进退化速率。其界限与信息论上界匹配，保证了紧性。

对于多轮对话产品，MTCR 能提供可验证的安全保证，帮助评估和改善模型在持续对抗输入下的表现。但实际部署需考虑计算成本，且目前仅在受限攻击假设下验证。

• 在对话系统中集成 MTCR 认证模块，对高风险场景进行安全评估
• 利用 MTCR 下界筛选脆弱多轮对话，指导安全对齐训练
• 开发插件工具，付费为 LLM 提供多轮安全认证服务

• MTCR 在真实复杂对话中的计算开销是否可接受？
• 安全持久性参数 (α,β) 如何针对不同模型和任务自动选择？
• 实验未覆盖的模型和攻击类型，MTCR 是否仍然有效？