arXiv 自然语言处理· Hazel Chen, Peter West, Hila Gonen·· 2 小时前AI 评分38
株连效应:语义泄漏导致语言模型产生联想性性别偏见
Guilt by Association: Semantic Leakage Drives Associative Gender Bias
AI 导读
研究发现大语言模型中提示词内无关概念的存在会引发语义泄漏,进而诱发未被现有评估充分重视的联想性性别偏见。即便刻板印象概念未直接归属于目标实体,仅作为场景背景出现,也会使模型生成结果偏向性别刻板印象,且偏移程度与主体直接接触该概念时相似。
来源:arXiv 自然语言处理 · arxiv.org