NeuronFuzz：基于安全神经元引导的模糊测试用于大模型安全评估

arXiv 发布论文介绍 NeuronFuzz，一种白盒模糊测试框架，利用 LLM 内部安全神经元的激活作为连续反馈，生成对抗性提示以评估模型安全对齐性。在 21 个文本和多模态模型上实现 76-100% 的越狱发现率，优于基线最高 48 个百分点。

现有自动化测试依赖生成响应获取反馈，成本高且在强对齐模型上反馈稀疏。NeuronFuzz 直接利用内部神经元激活，避免生成响应，显著提升测试效率，并突破了传统响应级方法的局限，为安全评估提供了新思路。

构建 SafetyOracle 将安全神经元激活转换为连续安全评分，并在预填充阶段获取，消除生成环节。通过模板不变的有害/良性输入及稳定性感知筛选神经元集，并利用评分可微分性获取梯度，定位对安全敏感的位置，再用掩码语言模型生成流畅突变。

对 LLM 安全测试工具和平台存在直接影响，可能降低评估成本并提高越狱漏洞发现效率，促进更安全模型的部署。对使用此类评估的模型提供商，可更快暴露安全弱点，需及时修复。

• 在 LLM 安全评估平台集成 NeuronFuzz 作为自动化越狱测试模块，提供快速、高效的安全漏洞筛查。
• 开发基于安全神经元激活的可视化工具，帮助开发者理解模型安全薄弱点。
• 结合 NeuronFuzz 的梯度信息，生成对抗性训练样本来强化模型安全对齐。
• 为多模态模型提供专门的 NeuronFuzz 版本，扩展安全评估覆盖范围。

• NeuronFuzz 在不同规模、不同架构的模型上的性能稳定性如何？
• 安全神经元的选择是否具有跨任务的泛化能力？
• 使用 NeuronFuzz 评估是否会破坏模型原有的安全护栏？
• 方法是否仅适用于白盒场景，对黑盒 API 模型有局限？