vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持
vLLM 团队宣布为 Qwen3.8-2.4T-A95B 提供 Day-0 支持，该模型基于 Qwen 3.5 架构，是首个开放权重的 Qwen-Max 级模型。
推荐理由：vLLM 官方提供了 Qwen3.8-2.4T-A95B 的 Day-0 支持细节，包括 FP4 量化权重、硬件优化内核及基准测试数据，有助于开发者评估大规模稀疏 MoE 模型的部署成本与性能。
公司与模型
千问 Qwen 最新动态
阿里千问 Qwen 系列的开源发布与迭代：从旗舰模型到端侧小模型的全谱系动态。
3 条精选近 30 天 0 条共收录 26 条
更新
千问 Qwen的精选
vLLM 官方博客精选AI 评分8282 Modal 官方工程博客精选AI 评分6363 Qwen3.8-2.4T-A95B 开源模型上线 Modal
Qwen3.8-2.4T-A95B 作为开放权重模型正式发布，并已在 Modal 平台提供 Shared Endpoint 支持。相比 Qwen 3.7，该模型在编码、工作、研究和长程任务上均有显著提升。Modal 与 Qwen 团队合作实现了 Day Zero 支持，底层基于 SGLang 和针对 Qwen3.8 架构定制的 DFlash speculator，以加速推理过程。
推荐理由：原文说明了新模型在Modal平台的即时可用性，以及通过自定义DFlash推测解码优化推理速度的具体技术实现。
vLLM 官方博客精选AI 评分6060 vLLM 官方博客详解 Qwen3.5 在 GB200 上达成 25K TPS/GPU 的优化与复现方法
vLLM 团队发布博客，展示如何通过解耦服务模式在 GB200 NVL72 系统上使 Qwen3.5-397B-A17B-NVFP4 模型达到超过 25,000 total TPS/GPU 的性能。
推荐理由：vLLM 团队公开了 Qwen3.5 在 GB200 NVL72 上实现 25K TPS/GPU 的解耦服务配置、关键优化补丁及复现配方，为高性能推理部署提供直接参考。