AWS Machine Learning Blog· Alex Iankoulski·· 3 小时前AI 评分40
NVIDIA Nemotron 3.5 Super VL 在 Amazon EKS 和 SageMaker HyperPod EKS 上的部署指南
Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
AI 导读
NVIDIA Nemotron 3.5 Super VL 是一款120B参数MoE多模态模型，每token激活12B参数，支持文本、图像及视频理解。该模型上下文窗口达1M tokens，在Hermes Bench得分63.44%，CharXiv基准测试得分80.8%。文章展示了其在Amazon EKS、EKS Auto Mode及SageMaker HyperPod EKS上的架构与部署验证方法。
来源：AWS Machine Learning Blog · aws.amazon.com