vLLM 官方博客（网页）·· 6 小时前精选AI 评分74
vLLM 原生支持扩散大语言模型 DiffusionGemma
DiffusionGemma: The First Diffusion LLM (dLLM) Natively Supported in vLLMJun 10, 2026·6 min readHow vLLM supports DiffusionGemma, the first native diffusion language model in vLLM, using Model Runner V2 state hooks, iterative denoising, bidirectional attention, and reused speculative decoding paths.
AI 导读
vLLM 宣布原生支持基于 Gemma4 构建的 26B 离散扩散大语言模型 DiffusionGemma，成为该框架首个原生接入的 dLLM。实现上通过 Model Runner V2 的 ModelState 抽象管理逐请求状态，复用投机解码路径与动态序列级因果注意力，支持单批次内自回归与双向去噪混合处理。
推荐理由
原文详述了利用 ModelState 抽象与投机解码路径接入扩散大模型的技术方案，为非自回归推理服务提供了工程实践参考。
来源：vLLM 官方博客（网页） · vllm.ai