跳到正文
Modal 官方工程博客·· 2026-07-27精选AI 评分77

Modal 上线 Kimi K3 并实现 Day-0 支持

Kimi K3 by Moonshot now available on Modal

AI 导读

Moonshot 发布拥有 2.8T 参数、1M token 上下文窗口及原生视觉能力的开源多模态模型 Kimi K3,Modal 在发布当日即提供运行支持。通过定制 DFlash 投机解码器,该模型在 Modal 上实现了 460 tokens/s 的生成速度,较基准提升 360% 交互性且吞吐量提高 88%。

推荐理由

原文详述了针对Kimi K3架构定制的DFlash投机解码方案,展示了其在智能体工作负载下显著提升吞吐与响应速度的具体数据。

来源:Modal 官方工程博客 · modal.com