Modal 开源 Qwen 系列 DFlash 推测解码模型
Modal 在 Hugging Face 发布针对 Qwen 3.5 和 3.6 系列的多个 DFlash 推测解码(speculative decoding)草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 等版本。
AI 推荐理由:官方开源多款DFlash推测解码模型并给出实测加速数据,为自托管推理优化提供了可直接复用的方案。
技术方向
开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。
61 条精选近 30 天 48 条共收录 181 条
Modal 在 Hugging Face 发布针对 Qwen 3.5 和 3.6 系列的多个 DFlash 推测解码(speculative decoding)草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 等版本。
AI 推荐理由:官方开源多款DFlash推测解码模型并给出实测加速数据,为自托管推理优化提供了可直接复用的方案。