vLLM 官方博客(网页)·· 4 小时前精选AI 评分79
vLLM 首发支持 Mistral Large 4 部署
Day 0 support for Mistral Large 4 on vLLMOct 29, 2026·26 min readDay-0 vLLM support for Mistral Large 4 with sparse MLA, cross-layer KV sharing, DSpark speculative decoding, DCP/PCP long context and NIXL P/D on NVIDIA Blackwell.
AI 导读
vLLM 宣布首发支持 Mistral Large 4,适配其稀疏 MLA、跨层 KV 共享及内置 DSpark 投机解码等架构特性。在 NVIDIA Blackwell 架构上提供 FP8 与 NVFP4 权重部署并优化 DCP/PCP 长上下文,同时通过 ROCm 及 TPU v7x 实现了跨硬件平台的首发适配。
推荐理由
vLLM 官方首发支持 Mistral Large 4 部署,详细拆解了稀疏 MLA、跨层 KV 共享与投机解码的落地实现与评测数据。
来源:vLLM 官方博客(网页) · vllm.ai