跳到正文
原文
vLLM 更新· LucasWilkinson·· 5 小时前AI 评分20

vLLM v0.31.0rc4 发布

v0.31.0rc4

AI 导读

vLLM 发布 v0.31.0rc4 版本,重点针对 HiSparse 模块进行了 Bug 修复。该更新解决了在 FULL graphs 模式下 MTP 接受率崩溃(acceptance collapse)的问题。

来源:vLLM 更新 · github.com