跳到正文
vLLM 官方博客· vLLM Team·· 4 天前精选AI 评分87

vLLM 发布对 Meta Muse Spark Open 模型的 Day 0 支持

Day 0 support for Muse Spark Open on vLLM

AI 导读

vLLM 宣布与 Meta Superintelligence Labs 合作,为开源稀疏混合专家模型 Muse Spark Open 提供 Day 0 支持。

推荐理由

vLLM 官方提供了 Muse Spark Open 的 Day 0 支持,包含多硬件并行策略、DSpark 投机解码配置及 LoRA RL 训练示例,可直接用于生产环境部署。

来源:vLLM 官方博客 · vllm.ai