vLLM 官方博客· vLLM Team, Inferact, Red Hat, and NVIDIA·· 10 天前精选AI 评分78
vLLM 宣布支持 NVIDIA Vera Rubin NVL72，吞吐量较 GB200 提升 7.8 倍
vLLM Support for NVIDIA Vera Rubin NVL72: 7.8x Throughput over GB200 NVL72
AI 导读
vLLM 正式宣布支持 NVIDIA Vera Rubin NVL72 平台，在 AgentX 基准测试中实现每 GPU 吞吐量较 GB200 NVL72 提升 7.8 倍。
推荐理由
vLLM 官方展示了在 Vera Rubin NVL72 上的初步性能数据与内核优化细节，为评估下一代硬件的推理收益提供了具体参考。
来源：vLLM 官方博客 · vllm.ai