跳到正文
原文
vLLM 官方博客(网页)·· 3 小时前AI 评分57

vLLM 推出训练与推理按位一致方案,开源配套 Agent 技能消除 RL 数值差异

Finish RL Training Faster: Bitwise-Consistent, High-Performance, Agent-DrivenOct 14, 2026·35 min readWe make vLLM rollout and the training forward give bitwise identical logprobs on DeepSeek-V4-Flash and Nemotron-3.5-Lightning-30B-A3B (NVFP4), keep 91% of rollout throughput on DeepSeek-V4-Flash, and open-source the agent skill.

AI 导读

vLLM 团队发布了一套让强化学习训练前向直接调用 vLLM 推理算子的工程方案,实现了训练与推理在相同权重和 token 前缀下的按位一致(diff = 0),并开源了配套的 agent skill。

来源:vLLM 官方博客(网页) · vllm.ai