vLLM 在 GB300 NVL72 集群上实现 Qwen3.8-2.4T PD Serving 性能突破

vLLM 在 GB300 NVL72 集群上对 Qwen3.8-2.4T 模型进行 PD Serving 优化，在 8K/1K 负载下实现每 GPU 5000 总 token 吞吐量及低延迟场景下每用户 180 生成 token。