vLLM 官方博客(网页)·· 2 小时前精选AI 评分62
vLLM 联合推出 REINFORCE Zero:通过算子对齐实现零失配异步强化学习
Zero Mismatch, Simple Async RL: REINFORCE Zero, DeepSeek-V4.1 and Kimi K3.1Nov 6, 2026·11 min readAsynchronous RL trains on stale weights. Align rollout and training kernels bit for bit, and unclipped importance sampling corrects that lag. Plus zero-mismatch RL for DeepSeek-V4.1-Flash, Kimi K3.1 and AMD MI355X.
AI 导读
vLLM 联合 NVIDIA Research 等团队提出 REINFORCE Zero,通过完全对齐采样引擎与训练器的算子计算精度,解决了异步强化学习中的算子失配难题。
推荐理由
分析了异步强化学习中算子数值误差对训练稳定性的影响,展示了通过算子对齐使无截断重要性采样在长延迟下稳定收敛的方案。
来源:vLLM 官方博客(网页) · vllm.ai