arXiv 人工智能· Yangzhe Peng, Xiaoyang Wang, Yiyang Zhao, Lijun Wu, Kun He·· 1 天前AI 评分38
SURFPRM:基于交互元素图的 Web 过程奖励模型偏好合成框架
From Trajectories to Grounded Preferences: Process Preference Synthesis via Interaction Element Graphs for Web PRMs
AI 导读
研究团队提出 Web 过程奖励模型偏好合成框架 SURFPRM,通过交互元素图系统化合成多维度的对比负动作。该方法将真实最小对比对比例从 24.19% 提升至 74.60% 并构建 SURFPRM-DATA,使 3B 至 9B 参数的 6 个开源模型在 WEBPRMBENCH 上超越基线。
来源:arXiv 人工智能 · arxiv.org