arXiv 自然语言处理· Chen Lyu, Phong Do, Gabriele Pergola·· 9 小时前AI 评分35
Human-Residual Steering:让冻结 LLM 评估模型与人类评价分布对齐
Human-Residual Steering: Aligning Frozen LLM Judges with Human Judgment Distributions
AI 导读
研究人员提出 Human-Residual Steering(HRS),通过学习隐藏状态干预让冻结的 LLM 评估模型与人类评价分布对齐。在跨 3 个模型家族的 4 个评估模型与 14 个基准测试中,HRS 在 Qwen2.5-7B 上将平均 Jensen-Shannon 距离从 0.565 降至 0.352,并将平均 Spearman 相关系数提升至 0.579。
来源:arXiv 自然语言处理 · arxiv.org