// AI 新闻 · 2026-10-30 · AWS Machine Learning Blog

NVIDIA Nemotron 3.5 Super VL 模型在 AWS EKS 和 SageMaker HyperPod EKS 上部署

NVIDIA 将其 120B 参数的混合专家模型 Nemotron 3.5 Super VL 带至 AWS 平台，支持在 Amazon EKS、EKS Auto Mode 及 SageMaker HyperPod EKS 上部署。该模型融合推理与工具使用能力，可同时处理文本、图像、文档和视频等多模态任务，通过混合 Mamba-2 与专家层架构实现高效计算，每 token 激活 12B 参数，显著降低 GPU 内存占用并保持长上下文成本可控。

阅读原文（AWS Machine Learning Blog）↗

原文发布 2026-10-30 00:11（北京时间）来源 AWS Machine Learning Blog自动整理 · 已核对原文

01摘要

模型在 Hermes Bench 上达到 63.44% 的准确率，在 LangChain 代理评估和 CharXiv 图表推理任务中分别取得 87.05% 和 80.8% 的表现。支持代码生成、网络检索、文档分析、网络安全及视频理解等 agent 工作流，并通过 NVIDIA Agent Toolkit 与主流开源代理框架集成。部署流程基于统一的 Kubernetes 配置，可在标准 EKS、EKS Auto Mode 及 HyperPod EKS 环境中运行，利用 NVIDIA Dynamo 和 vLLM 实现模型服务，已在 p6-b200.48xlarge 和 p5en.48xlarge 实例上验证。

由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。

02要点

Nemotron 3.5 Super VL 是一个 120B 参数的混合专家模型，每 token 激活 12B 参数，支持文本、图像、文档和视频多模态输入。
模型采用混合 Mamba-2 与注意力层架构，结合递归共享的 MTP 头，实现低延迟长上下文推理和原生推测解码。
可在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署，通过 NVIDIA Dynamo 和 vLLM 提供服务，支持 GPU 节点间解耦运行。
在 Hermes Bench、LangChain 代理及 CharXiv 图表推理任务中分别达到 63.44%、87.05% 和 80.8% 的性能表现。

03原文出处

Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS

AWS Machine Learning Blog · 发布于 2026-10-30 00:11（北京时间） · 上方为原标题

05同主题新闻

出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。全部 AI 新闻 · 今日

01摘要

02要点

03原文出处

04站内相关

提到的模型

相关产品与工具

05同主题新闻