arXiv 机器学习· Ruomeng Ding, Tianwei Gao, Lianrui Geng, Mohit Bansal, Zhun Deng·· 4 小时前AI 评分34
该多听谁的？面向多元对齐的福利感知偏好获取方法 WAPA
Who Should We Listen to More? Welfare-Aware Preference Acquisition for Pluralistic Alignment
AI 导读
研究提出福利感知偏好获取框架 WAPA，通过社会福利目标显式分配有限的人类反馈，解决多元对齐中 AI 模拟标注导致的个体代表性失衡。该方法基于辅助参考模型估算边际增益挑选查询，在固定预算下具有精确最优性。实验表明，仅对 20% 的对比获取人类标注，即可弥补全 AI 标注与全真实标注策略间 75-86% 的平均预测效用差距。
来源：arXiv 机器学习 · arxiv.org