跳到正文
vLLM 官方博客· vLLM Team and Inferact·· 2026-08-12精选AI 评分82

vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持

Day 0 Support for Qwen3.8-2.4T-A95B on vLLM

AI 导读

vLLM 团队宣布为 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型基于 Qwen 3.5 架构,是首个开放权重的 Qwen-Max 级模型。

推荐理由

vLLM 官方提供了 Qwen3.8-2.4T-A95B 的 Day-0 支持细节,包括 FP4 量化权重、硬件优化内核及基准测试数据,有助于开发者评估大规模稀疏 MoE 模型的部署成本与性能。

来源:vLLM 官方博客 · vllm.ai