vLLM 官方博客（网页）·· 3 小时前精选AI 评分76
vLLM 引入 NIXL EP 实现弹性专家并行近零停机扩缩容
Achieving near-zero-downtime scaling in Elastic Expert ParallelismOct 19, 2026·12 min readHow asynchronous preparation and NIXL EP enabled near-zero-downtime Elastic EP scaling in vLLM.
AI 导读
vLLM 推出基于 NIXL EP 的弹性专家并行（Elastic EP）方案，在 DeepSeek V4 Pro 评测中将 16 至 20 块 GB200 GPU 的扩容停服时间降至 0.82 秒、缩容停服时间降至 1.96 秒。
推荐理由
原文给出了通过通信组原位更新与 CUDA Graph 复用解决 MoE 动态扩缩容停机痛点的完整工程方案，适合推理部署架构师参考。
来源：vLLM 官方博客（网页） · vllm.ai