arXiv 人工智能· Wei Dai, Qianchu Liu, Guanghui Qin, Xing Han, Tristan Naumann, Paul Pu Liang, Sheng Zhang·· 8 小时前AI 评分40
通过对抗性元提示词演化的递归奖励改进（RRI）
Recursive Reward Improvement via Adversarial Meta-Prompt Evolution
AI 导读
研究人员提出递归奖励改进（RRI）框架，通过对抗性模型钻评分细则漏洞并进行最多两步修复，解决开放式专家任务自博弈中的奖励黑客问题。在 HealthBench Professional 评测中，RRI 相比仅生成基线在 9B 和 27B 模型上调整后得分分别提升 10.9 和 12.4 分，无外部模型时提升 10.3 分。
来源：arXiv 人工智能 · arxiv.org