arXiv 自然语言处理· Hyun Ryu, Jong-Heon Kim, Yiqing Xie, Seungone Kim, Carolyn Rose, Eunho Yang·· 5 小时前AI 评分36
精确率目标缓解基于评分细则强化学习中的奖励黑客问题
Eat Your Precision: Precision Objective Mitigates Reward Hacking in Rubric-based RL
AI 导读
研究提出 FORK 奖励机制，联合优化召回率与精确率目标，解决基于评分细则强化学习中的冗长与事实错误等奖励黑客问题。FORK 要求回复单元兼具必要性与事实正确性，在维持细则覆盖率的同时显著提升精确率并缩短长度。相比基座模型，其在 RubricHub-Medical 的胜率从 10.6% 升至 68.0%，在 HealthBench 从 22.1% 升至 74.1%。
来源：arXiv 自然语言处理 · arxiv.org