arXiv 自然语言处理· Shengze Huang, Zihao Tang, Jinluan Yang, Xin Yu, Zhenghao Lin, Xiao Liu, Zengxuan Wen, Yeyun Gong, Haizhen Huang, Weiwei Deng, Feng Sun, Qi Zhang, Fei Wu, Kun Kuang·· 7 小时前AI 评分36
SOAR:面向搜索智能体的源感知强化学习框架
SOAR: Source-Aware Reinforcement Learning with Precise Credit Assignment for Search Agents
AI 导读
研究人员提出面向搜索智能体的源感知强化学习范式 SOAR,通过将单一推理拆解为源明确的轨迹来解决证据伪造问题。该方法将外部与内部知识解耦为并行且可观察的数据流,并利用源一致性奖励进行精准信用分配。评估显示,SOAR 在 3B 和 7B 基座模型上分别超越基准 7.3% 和 5.4%,同时将证据伪造减少了 74.8%。
来源:arXiv 自然语言处理 · arxiv.org