跳到正文
原文
vLLM 官方博客(网页)·· 4 小时前精选AI 评分79

vLLM 首发支持 Mistral Large 4 部署

Day 0 support for Mistral Large 4 on vLLMOct 29, 2026·26 min readDay-0 vLLM support for Mistral Large 4 with sparse MLA, cross-layer KV sharing, DSpark speculative decoding, DCP/PCP long context and NIXL P/D on NVIDIA Blackwell.

AI 导读

vLLM 宣布首发支持 Mistral Large 4,适配其稀疏 MLA、跨层 KV 共享及内置 DSpark 投机解码等架构特性。在 NVIDIA Blackwell 架构上提供 FP8 与 NVFP4 权重部署并优化 DCP/PCP 长上下文,同时通过 ROCm 及 TPU v7x 实现了跨硬件平台的首发适配。

推荐理由

vLLM 官方首发支持 Mistral Large 4 部署,详细拆解了稀疏 MLA、跨层 KV 共享与投机解码的落地实现与评测数据。

来源:vLLM 官方博客(网页) · vllm.ai