非平衡遗忘：多模态大语言模型遗忘中的公平性基准

研究者提出FAIRGET基准，用于评估多模态大语言模型在非平衡遗忘请求下的公平性；并提出FAUN算法，通过偏见感知的激活引导机制，在遗忘数据的同时保持模型公平性。实验表明该方法在遗忘质量和公平性上均优于现有方案。

此前工作假设遗忘请求均匀分布，而现实中不同人群请求频率不同，易导致模型偏见。FAIRGET首次提供了模拟真实非平衡场景的评估基准，FAUN则为解决该问题提供了首个公平性保持算法。

FAUN利用偏见感知的激活引导机制，在遗忘过程中调整模型内部表示，以抵消因不平衡遗忘数据引起的偏见偏移，从而在不牺牲遗忘效果的前提下维持模型对不同群体的公平性。

若将此类算法集成到MLLM产品中，可实现合规的个人数据删除且避免产生歧视行为；但当前仅处于基准测试阶段，距离实际部署还需验证计算开销与泛化能力。

• 开发基于FAUN的MLLM遗忘模块，用于合规删除用户数据并自动检测公平性偏差。
• 构建类似FAIRGET的自动化测试工具，帮助团队在发布前评估模型的遗忘公平性。
• 在隐私合规场景中提供“偏见审计”服务，针对不同人口统计群体的遗忘请求进行差异化报告。

• FAUN在更复杂的多模态任务（如视频、语音输入）上是否同样有效？
• 该算法在真实产品中的计算开销和延迟是多少？
• 是否有其他公平性维度（如性别、年龄）尚未被FAIRGET覆盖？
• FAUN能否与现有模型微调流程无缝集成，还是需要额外训练步骤？