arXiv 机器学习· Aditya Parikh, Eike Petersen, Stella Frank, Enzo Ferrante, Melanie Ganz, Aasa Feragen·· 2 天前AI 评分41
算法公平性只需不变性吗？消除人口统计信息可能引入新偏差
Is invariance all you need for algorithmic fairness? Removing demographic information can create new bias
AI 导读
研究表明，在模型表征中强制消除人口统计信息不仅无法消除算法偏差，反而可能阻碍去偏并引入新偏见。论文区分了边际与类条件表征不变性，证明二者分别对应 demographic parity 与 equalized odds 准则。在 5 个表格和 2 个胸部 X 光影像数据集上的实验证实，人口统计表征不变性对实现算法公平既不可取也不充分。
来源：arXiv 机器学习 · arxiv.org