arXiv 人工智能· Tien-Phat Nguyen, Truong Nguyen, Thanh-Thien Le, Hoang Phan, Thien Huu Nguyen, Linh Ngo Van, Trung Le·· 8 小时前AI 评分40
Route-and-Generate：面向大语言模型推理路由的 KL 正则化路由器改进
Route-and-Generate: KL-Regularized Router Improvement for Reasoning Routing in LLMs
AI 导读
研究人员提出分层训练框架 Route-and-Generate（Rouge），使 LLM 能自适应决定每个输入所需的推理程度。该方法将推理分配与答案生成解耦，利用路由策略分配采样预算，并结合 GRPO 与偏好简短正确解的排名奖励优化基座模型。路由策略经闭式 KL 正则化改进后蒸馏至神经路由器，在多个推理 benchmark 上实现了更优的准确率与效率权衡。
来源：arXiv 人工智能 · arxiv.org