vLLM 发布基于 RDT 的大规模分片权重传输引擎

vLLM 推出利用 Ray Direct Transport (RDT) 的原生分片权重传输引擎，旨在解决在线 RL 中大规模模型权重同步的效率问题。该方案通过“记录张量”干运行生成分片计划，支持密集、MoE 及量化模型，并实现了预处理与传输的重叠优化。