跳到正文
vLLM 官方博客· NVIDIA Computer Vision Team (NVCV)·· 2026-09-18AI 评分37

vLLM 集成 PyNvVideoCodec 实现多 GPU 视频字幕生成硬件解码加速

Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLM

AI 导读

vLLM 通过集成 PyNvVideoCodec 启用 NVIDIA GPU 硬件视频解码,消除 CPU 瓶颈并支持 Qwen3-VL-8B-Instruct 等模型在多 GPU 节点高效运行。在 8xH100 配置下,该方案使视频字幕任务吞吐量较 CPU 解码提升超两倍,显著优化大规模自动驾驶数据标注效率。

来源:vLLM 官方博客 · vllm.ai