跳到正文
vLLM 官方博客· NVIDIA Nemotron Team·· 4 天前精选AI 评分65

vLLM 宣布支持 NVIDIA Nemotron 3.5 Super VL 多模态模型

Announcing Day 0 Support for NVIDIA Nemotron 3.5 Super VL on vLLM

AI 导读

vLLM 正式宣布对 NVIDIA Nemotron 3.5 Super VL 提供 Day 0 支持。该模型采用 120B 总参数、12B 激活参数的 MoE 架构,具备文本、图像、文档和视频理解能力,专为长运行智能体工作流设计。

推荐理由

原文披露了 Nemotron 3.5 Super VL 的 MoE 架构参数、混合 Mamba-Transformer 设计以及 vLLM 部署配置,为开发者评估其在长上下文智能体任务中的效率与精度提供了具体技术依据。

来源:vLLM 官方博客 · vllm.ai