arXiv 自然语言处理· Gabriel Lars Sabadin, Dr Nicola Harding, Sarah Kingston·· 7 小时前AI 评分44
危害源于行为而审核基于词汇：语言与文化如何决定自动化安全系统保护谁与屏蔽谁
Harm Is Behavioural, Moderation Is Lexical: How Language and Culture Decide Whom Automated Safety Systems Protect and Whom They Silence
AI 导读
自动化安全系统因依赖词汇而非实际行为判定危害，导致特定群体内容被过度标记且跨语言防护严重失衡。针对 11 种语言下 5 个开源系统（含两款多语言 guard 模型）的评估显示，55 个系统-语言配对中有 51 个未达母语者区分水准。此外，模型能力提升未能解决问题，反而进一步拉大了最优与最差服务语言群体间的差距。
来源：arXiv 自然语言处理 · arxiv.org