vLLM 更新· khluu·2026-10-17 08:25· 1 天前精选AI 评分74vLLM v0.32.0 发布v0.32.0AI 导读vLLM 正式发布 v0.32.0 版本,新增结构化决策端点 /v1/systemone,并将 Model Runner V2 设为 ROCm 平台的默认运行器。推荐理由版本带来了低精度 KV cache 扩展与多模型推理优化,工程团队可以评估显存占用降低与短请求吞吐提升带来的部署收益。来源:vLLM 更新 · github.com#产品更新#部署/工程#推理#开源生态#GitHub查看事件全部后续