vLLM 官方博客· NVIDIA Nemotron Team and vLLM Team·· 2026-08-10精选AI 评分83
vLLM 宣布支持 NVIDIA Nemotron 3.5 Lightning 模型
Announcing Day-0 Support for NVIDIA Nemotron 3.5 Lightning on vLLM
AI 导读
vLLM 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持。该模型采用 30B 总参数、3B 激活参数的混合 MoE 架构，专为始终在线的智能体设计，支持最高 100 万 token 上下文窗口。
推荐理由
原文给出了混合 MoE 架构、投机解码配置及多硬件部署指南，读者可据此评估其在智能体工作流中的效率与落地可行性。
来源：vLLM 官方博客 · vllm.ai