本文へスキップ
原文
vLLM 更新· MatthewBonanni·· 23 日前AI スコア16

vLLM v0.32.0rc0 发布:在 KV cache 容量日志中报告主机池

v0.32.0rc0: [HiSparse] Report host pool in KV cache capacity logs (#60285)

未翻訳のため中国語で表示しています。

AI ガイド

vLLM 发布 v0.32.0rc0 预发布版本,合并了针对 HiSparse 的代码更新。该更新在 KV cache 容量日志中新增了对主机池(host pool)的报告。

出典:vLLM 更新 · github.com