跳到正文
热点事件持续更新

研究提出基于MoE路由的过程监督方法RoCo

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月,arXiv发表的一项自然语言处理研究发现,混合专家(MoE)模型的专家路由机制能够提供内生过程置信度信号,可直接用于多步推理的过程监督。基于路由置信度,研究团队提出了两种方法:RoCo-Rethink 能够识别低置信步骤并选择性重新生成推理轨迹;RoCo-PRM 则支持自动标注步骤并蒸馏为独立的过程奖励模型(PRM)。实验表明,这两项方法在多种 MoE 架构及推理任务中均优于强基线,并具备出色的跨架构和跨任务迁移能力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. arXiv 自然语言处理
    强 MoE 模型足以实现过程监督

    研究发现 MoE 模型的专家路由机制能提供内生过程置信度信号,可直接用于多步推理的过程监督。基于路由置信度,研究团队提出了能识别低置信步骤并选择性重新生成轨迹的 RoCo-Rethink,以及自动标注步骤并蒸馏为独立 PRM 的 RoCo-PRM。实验表明两者在多种 MoE 架构与推理任务中均优于强基线,且具备出色的跨架构和跨任务迁移能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。