vLLM 官方博客（网页）·· 15 days agoSelectedAI score76
vLLM 引入 NIXL EP 实现弹性专家并行近零停机扩缩容
Achieving near-zero-downtime scaling in Elastic Expert ParallelismOct 19, 2026·12 min readHow asynchronous preparation and NIXL EP enabled near-zero-downtime Elastic EP scaling in vLLM.
Not yet translated; shown in Chinese.
AI guide
vLLM 推出基于 NIXL EP 的弹性专家并行（Elastic EP）方案，在 DeepSeek V4 Pro 评测中将 16 至 20 块 GB200 GPU 的扩容停服时间降至 0.82 秒、缩容停服时间降至 1.96 秒。
Why it matters
原文给出了通过通信组原位更新与 CUDA Graph 复用解决 MoE 动态扩缩容停机痛点的完整工程方案，适合推理部署架构师参考。
Source:vLLM 官方博客（网页） · vllm.ai