vLLM 发布 AFD 插件：解耦 Attention 与 FFN 以灵活服务 MoE 模型

vLLM 推出实验性 AFD 插件，将 Mixture-of-Experts 模型的 Attention 和 FFN 分离为独立服务以实现弹性扩展。该插件支持 NVIDIA GPU 和 Ascend NPU，兼容 DeepSeek V2/V3 系列模型及 OpenAI 接口。目前项目处于实验阶段，需进一步进行大规模硬件测试。