vLLM 更新· robertgshaw2-redhat·· 3 小时前AI 评分17
vLLM v0.31.0rc3 为 Model Runner V2 支持随机虚拟输入
v0.31.0rc3: [Model Runner V2] Support randomized dummy inputs (#58411)
AI 导读
vLLM 在 v0.31.0rc3 版本中为 Model Runner V2 增加了对随机虚拟输入(randomized dummy inputs)的支持。该更新包含来自 Red Hat 团队与 Claude Opus 5.5 等协作者的代码提交。
来源:vLLM 更新 · github.com