arXiv 自然语言处理· Christian Arnold, Ernesto Calvo, Guadalupe Gonzalez, Sebasti\'an Vallejo Vera, Tiago Ventura·· 8 小时前AI 评分53
arXiv 论文揭示语言模型因过度回避受保护属性引发隐性概率偏差
Invisibilization as a Source of Probability Bias in Language Models
AI 导读
最新 arXiv 论文测试了 OpenAI 与 Anthropic 的主流大语言模型，发现模型因对齐策略倾向于回避受保护属性，导致其在双瓮博弈中对黑人描述者的拒绝评估率最高达 46%，而对白人仅为 9%。这种偏差会随着推理强度的增加而扩大，且常规的平均信任度审计完全无法识别。研究提出了一种基于真实结果的多轮评分机制，成功将两家厂商绝大多数配置下的种族信任差距降至 0.02 以下。
来源：arXiv 自然语言处理 · arxiv.org