vLLM 官方博客（网页）·· 12 小时前精选AI 评分64
vLLM 集成 PyNvVideoCodec 硬件视频解码以提升多 GPU 视频处理吞吐
Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLMSep 18, 2026·4 min readHow to leverage NVIDIA Hardware Video Decoders to Achieve Multi-GPU Scaling in Video Captioning and Description tasks.
AI 导读
vLLM 宣布集成 PyNvVideoCodec 以支持 NVIDIA GPU 硬件视频解码（NVDEC），将视频解码工作负载从 CPU 转移至专用硬件。该方案消除了多 GPU 节点运行视觉语言模型时 CPU 易满载的瓶颈，在 8×H100 配置下使视频描述任务的吞吐量达到 CPU 解码方案的两倍以上。
推荐理由
通过将视频解码从 CPU 卸载至 GPU 硬件解码器，解决了多卡视觉模型推理中的预处理瓶颈并给出了部署配置参考。
来源：vLLM 官方博客（网页） · vllm.ai