跳到正文
Modal 官方工程博客·· 2026-06-19精选AI 评分65

Modal 开源 Qwen 系列 DFlash 推测解码模型

Speculation Is All You Need

AI 导读

Modal 在 Hugging Face 发布针对 Qwen 3.5 和 3.6 系列的多个 DFlash 推测解码(speculative decoding)草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 等版本。

推荐理由

官方开源多款DFlash推测解码模型并给出实测加速数据,为自托管推理优化提供了可直接复用的方案。

来源:Modal 官方工程博客 · modal.com