vLLM 更新· MatthewBonanni·· 14 小时前AI 评分16
vLLM v0.32.0rc0 发布：在 KV cache 容量日志中报告主机池
v0.32.0rc0: [HiSparse] Report host pool in KV cache capacity logs (#60285)
AI 导读
vLLM 发布 v0.32.0rc0 预发布版本，合并了针对 HiSparse 的代码更新。该更新在 KV cache 容量日志中新增了对主机池（host pool）的报告。
来源：vLLM 更新 · github.com