语域变化破坏 LLM 安全：孟加拉语基准揭示文化危害

一项研究发布了孟加拉语安全基准 BanglaSafe，包含 879 条提示，覆盖 17 类文化危害和五种提示条件。评估 18 个前沿 LLM，发现超过一半响应不完全安全，14.7% 含严格有害内容，且写作风格差异比语言切换影响更大。

此前安全评估以英语为主，对孟加拉语等低资源语言关注不足。该基准首次系统评估孟加拉语下的安全表现，显示现有模型和分类器在该语言上表现差，提示全球部署的模型存在安全盲区。

模型安全训练多基于英语数据，对孟加拉语等语言的语域变化不敏感。正式新闻式表达可能被模型视为低风险，从而绕过安全机制，导致有害内容生成率更高。安全分类器也因语言差异而失效。

面向孟加拉语用户的产品（如聊天机器人、内容生成工具）存在安全隐患，需改进多语言安全过滤和评估。研发团队需扩充非英语安全测试集，并调整安全对齐策略，否则可能违反当地法规或损害用户信任。

• 开发基于 BanglaSafe 的多语言安全评估工具，供企业内部测试。
• 针对孟加拉语优化安全分类器，提升对文化相关危害的识别率。
• 在模型训练中增加孟加拉语语域变体数据，增强鲁棒性。
• 为孟加拉语市场提供定制安全审核服务。

• BanglaSafe 是否包含足够的常见实用场景，以反映真实应用？
• 除写作风格外，其他语域因素（如性别、年龄）影响如何未量化？
• 提出的这些改进建议是否有成本效益评估？
• 现有模型失败的具体模式是什么？