vLLM 官方博客(网页)·· 4 小时前精选AI 评分73
vLLM 宣布首发支持 NVIDIA Nemotron 3.5 Super VL
Announcing Day 0 Support for NVIDIA Nemotron 3.5 Super VL on vLLMOct 15, 2026·6 min readRun NVIDIA Nemotron 3.5 Super VL on vLLM for multimodal agent workflows with image, document, and video understanding, OpenAI-compatible serving, and multi-token prediction.
AI 导读
vLLM 宣布首发支持 NVIDIA Nemotron 3.5 Super VL,提供连续批处理、前缀缓存、投机解码和 OpenAI 兼容 API 等部署能力。
推荐理由
原文给出了通过 vLLM 部署混合架构 MoE 视觉智能体模型的配置,为长上下文多模态推理提供了工程参考。
来源:vLLM 官方博客(网页) · vllm.ai