arXiv 机器学习· Ziheng Cheng, Yixiao Huang, Hanlin Zhu, Somayeh Sojoudi·· 4 小时前AI 评分47
强化学习如何重塑 LLM 推理:迁移性、覆盖率与 Scaling Laws
How RL Reshapes LLM Reasoning: Transferability, Coverage, and Scaling Laws
AI 导读
针对 Qwen 和 Gemma 模型族的研究表明,强化学习(RL)并未扩展大语言模型的推理边界,而是通过重塑策略偏好改变推理空间。研究提出策略选择与执行分离的两阶段模型,解释了跨领域迁移与遗忘并存、大采样预算下覆盖率增减等现象。此外,该研究还为 RL 算力的 log-sigmoid 与 log-linear 标度律提供了理论依据与预测验证。
来源:arXiv 机器学习 · arxiv.org