vLLM 发布 Decode Context Parallelism 优化长上下文推理

vLLM 推出 Decode Context Parallelism (DCP) 技术，通过沿序列维度分片 KV cache 解决 GQA/MLA 模型在张量并行下的显存复制瓶颈。实测显示，在 Kimi K2.6 模型上，DCP 使单 GPU 吞吐量从基线 TP 的 1,863 tok/s 提升至 6,091 tok/s，并支持高达 512 的并发请求。