视觉语言模型在隐含风险下还能保持有用吗？Intent-Privilege OPSD 实现高效安全-有用对齐

一篇 arXiv 论文提出 Intent-Privilege On-Policy Self-Distillation（OPSD），利用基于证据的意图作为训练时的特权监督，让视觉语言模型识别跨模态隐含风险并给出安全且有帮助的回答。该方法每个提示只做一次 rollout，仅用 1,447 条安全样本，训练时间较多次 rollout 的 GRPO 类方法减少 5 倍，推理长度降低 7%，在五个评测组中安全-有用联合成功率最高。

此前 VLM 安全方法多依赖大规模偏好数据、多次 rollout 训练或推理阶段额外防护，且容易因一律拒答而损害有用性。OPSD 表明训练期引入意图监督可在数据、训练和推理成本显著下降的同时，提升安全与有用兼顾的比例。

OPSD 在训练时把基于证据的意图作为教师模型的额外条件，将教师对回答的意图条件偏好蒸馏给学生，但学生推理时不输入意图标注、不挂额外安全模块。这样模型学到的是区分隐含风险与可安全回答请求的标准，而不是直接拒答。

若结论可复现，安全对齐的数据标注与算力开销可大幅压缩，单次 rollout 训练和更短的推理输出也降低服务成本；产品交互上可减少对正常请求的误拒，但需要验证在真实业务流量中的安全漏放情况。

• 在已有 VLM 安全微调流程中试点 OPSD，用千级安全样本替换大规模偏好集，对比训练成本与联合成功率。
• 针对客服、内容审核等场景构建跨模态隐含风险测试集，验证安全-有用联合成功率而非单一拒答率。
• 将推理时安全模块的成本与 OPSD 训练期方案做对比，评估是否可移除线上额外防护组件。

• 论文所述 5 倍训练加速与 7% 推理长度下降的具体基线配置和硬件条件是什么？
• OPSD 在开放域真实流量中的漏放率和误拒率是否同样改善？
• 仅 1,447 条安全样本是否会导致对训练未见风险类型的泛化不足？
• 是否有独立第三方复现或行业部署案例支持这些指标？