Skip to content
简体中文

切换主题

// 开源模型显存表 · 系列

NVIDIA Nemotron 本地部署与显存需求

英伟达发布的 62 个开源权重模型(含量化版共 108 个官方仓库)。4 位量化下从 0.9 GB(nemocurator-fineweb-nemotron-4-edu-classifier)到 374 GB(NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16)。

官方组织:nvidia最新 2026-10-16显存为估算

01文本大模型 (37)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF163.98B 256K 9.7 GB3.6 GB 8GB 显卡Mac 16GB 可商用2026-10-16
Nemotron-3-Labs-Ultra-Math-RL550B / 55B 256K 1.21 TB367 GB 8 × H100(640GB)— 可商用2026-09-02
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF1631.6B / 3B 256K 70.0 GB21.6 GB RTX 4090 24GBMac 36GB 可商用2026-08-01
NVIDIA-NemotronLabs-VoiceChat-11B11.1B — 24.9 GB7.9 GB 12GB 显卡Mac 16GB 可商用2026-07-29
Nemotron-Labs-Audex-2B ↗2B — 4.9 GB1.8 GB 8GB 显卡Mac 16GB 仅限非商用2026-07-06
NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16560.5B / 55B 256K 1.23 TB374 GB 8 × H100(640GB)— 可商用2026-06-03
Nemotron-Labs-Diffusion-14B13.5B 256K 31.6 GB10.8 GB 12GB 显卡Mac 24GB 可商用(有条件)2026-04-22
Nemotron-Cascade-2-30B-A3B31.6B / 3B 256K 70.0 GB21.6 GB RTX 4090 24GBMac 36GB 可商用(有条件)2026-03-18
Nemotron-Labs-Diffusion-8B8.49B 256K 20.3 GB7.3 GB 12GB 显卡Mac 16GB 可商用(有条件)2026-03-18
NVIDIA-Nemotron-3-Super-120B-A12B-BF16123.6B / 12B 256K 273 GB83.0 GB RTX PRO 6000 96GBMac 128GB 可商用(有条件)2026-03-10
NVIDIA-Nemotron-3-Nano-4B-BF163.97B 256K 9.4 GB3.3 GB 8GB 显卡Mac 16GB 可商用(有条件)2026-03-07
Nemotron-Labs-Diffusion-3B3.83B 256K 9.8 GB3.9 GB 8GB 显卡Mac 16GB 可商用(有条件)2026-03-02
NVIDIA-Nemotron-Nano-9B-v2-Japanese8.89B 128K 20.2 GB6.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2026-02-04
Nemotron-Cascade-8B-Thinking ↗8.19B 32K 19.7 GB7.2 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-12-08
Nemotron-Cascade-14B-Thinking ↗14.8B 32K 34.3 GB11.7 GB 16GB 显卡Mac 24GB 可商用(有条件)2025-12-08
NVIDIA-Nemotron-3-Nano-30B-A3B-BF1631.6B / 3B 256K 70.0 GB21.6 GB RTX 4090 24GBMac 36GB 可商用(有条件)2025-12-04
Nemotron-Orchestrator-8B ↗8.19B 40K 19.7 GB7.2 GB 8GB 显卡Mac 16GB 模型卡未写许可2025-11-25
Nemotron-Flash-1B ↗965M 35K 3.0 GB1.5 GB 8GB 显卡Mac 16GB 仅限非商用2025-11-06
NVIDIA-Nemotron-Nano-12B-v212.3B 128K 27.8 GB8.9 GB 12GB 显卡Mac 16GB 可商用(有条件)2025-08-21
NVIDIA-Nemotron-Nano-9B-v28.89B 128K 20.2 GB6.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-08-12
Llama-3_3-Nemotron-Super-49B-v1_549.9B 128K 112 GB35.4 GB 2 × RTX 5090(64GB)Mac 64GB 可商用(有条件)2025-07-25
OpenReasoning-Nemotron-7B ↗7.62B 128K 17.7 GB6.0 GB 8GB 显卡Mac 16GB 可商用2025-07-15
Nemotron-H-8B-Reasoning-128K ↗8.1B 128K 18.5 GB6.0 GB 8GB 显卡Mac 16GB 仅限非商用2025-06-05
Llama-3.1-Nemotron-Nano-4B-v1.14.51B 128K 11.5 GB4.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-05-03
Nemotron-H-4B-Instruct-128K ↗4.49B 128K 10.5 GB3.6 GB 8GB 显卡Mac 16GB 仅限非商用2025-04-15
Nemotron-H-56B-Base-8K56.3B 8K 125 GB38.4 GB 2 × RTX 5090(64GB)Mac 64GB 仅限非商用2025-04-08
Llama-3_1-Nemotron-Ultra-253B-v1253.4B 128K 560 GB172 GB 4 × RTX PRO 6000(384GB)Mac 256GB 可商用(有条件)2025-04-07
Nemotron-H-4B-Base-8K4.49B 8K 10.5 GB3.6 GB 8GB 显卡Mac 16GB 仅限非商用2025-03-20
Nemotron-H-8B-Base-8K8.1B 8K 18.5 GB6.0 GB 8GB 显卡Mac 16GB 仅限非商用2025-03-19
Llama-3.1-Nemotron-Nano-8B-v18.03B 128K 19.2 GB6.9 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-03-16
Llama-3_3-Nemotron-Super-49B-v149.9B 128K 112 GB35.4 GB 2 × RTX 5090(64GB)Mac 64GB 可商用(有条件)2025-03-16
Llama-3.1-Nemotron-8B-UltraLong-1M-Instruct ↗8.04B 1M 19.3 GB6.9 GB 8GB 显卡Mac 16GB 仅限非商用2025-03-04
nemocurator-fineweb-nemotron-4-edu-classifier ↗109M 1K 1.0 GB0.9 GB 8GB 显卡Mac 16GB 自定义许可,需阅读2025-02-07
Nemotron-4-Mini-Hindi-4B-Instruct ↗4.19B 4K 10.8 GB4.4 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-10-22
Llama-3.1-Nemotron-70B-Instruct-HF70.6B 128K 158 GB50.2 GB 2 × RTX 5090(64GB)Mac 128GB 可商用(有条件)2024-10-12
Llama-3_1-Nemotron-51B-Instruct ↗51.5B 128K 115 GB36.4 GB 2 × RTX 5090(64GB)Mac 64GB 可商用(有条件)2024-09-22
Nemotron-Mini-4B-Instruct4B 4K 10.4 GB4.2 GB 8GB 显卡Mac 16GB 可商用(有条件)2024-09-10

02视觉语言 (10)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16124.5B / 12B — 274 GB83.5 GB RTX PRO 6000 96GBMac 128GB 可商用2026-10-12
NVIDIA-Nemotron-3.5-Bolt-74B-A9B-BF1674.9B / 9B — 165 GB50.4 GB 2 × RTX 5090(64GB)Mac 128GB 可商用2026-10-09
Nemotron-3.5-Parse631M 16K 2.1 GB1.1 GB 8GB 显卡Mac 16GB 可商用2026-09-03
NVIDIA-Nemotron-Parse-2.0903M — 2.5 GB1.1 GB 8GB 显卡Mac 16GB 可商用2026-06-30
Nemotron-Labs-Diffusion-VLM-8B ↗8.92B 256K 21.3 GB7.6 GB 12GB 显卡Mac 16GB 仅限非商用2026-05-08
nemotron-ocr-v2 ↗— — —— —— 可商用(有条件)2026-04-01
NVIDIA-Nemotron-Parse-v1.2936M — 2.6 GB1.1 GB 8GB 显卡Mac 16GB 可商用(有条件)2026-02-18
NVIDIA-Nemotron-Parse-v1.1957M — 2.6 GB1.1 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-11-15
NVIDIA-Nemotron-Nano-12B-v2-VL-BF1613.2B 128K 29.7 GB9.5 GB 12GB 显卡Mac 16GB 可商用(有条件)2025-10-21
Llama-3.1-Nemotron-Nano-VL-8B-V18.72B 128K 20.8 GB7.4 GB 12GB 显卡Mac 16GB 可商用(有条件)2025-06-03

03全模态 / 语音对话 (1)

模型参数上下文BF164 位最低显卡(4 位)Mac(4 位)许可发布
Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF1633B / 3B 256K 73.2 GB22.6 GB RTX 5090 32GBMac 64GB 可商用(有条件)2026-04-20

04向量模型 (11)

模型参数BF164 位最低显卡(4 位)Mac(4 位)许可发布
Nemotron-3.5-Embed-1B-BF161.55B 3.9 GB1.5 GB 8GB 显卡Mac 16GB 可商用2026-10-07
Nemotron-3.5-Embed-8B-BF168.38B 18.9 GB6.1 GB 8GB 显卡Mac 16GB 可商用2026-10-07
Nemotron-3-Embed-1B-BF161.14B 3.0 GB1.3 GB 8GB 显卡Mac 16GB 可商用2026-07-14
Nemotron-3-Embed-8B-BF167.95B 18.0 GB5.8 GB 8GB 显卡Mac 16GB 可商用2026-07-14
nemotron-colembed-vl-4b-v2 ↗4.83B 11.1 GB3.7 GB 8GB 显卡Mac 16GB 仅限非商用2026-01-15
nemotron-colembed-vl-8b-v28.77B 19.8 GB6.3 GB 8GB 显卡Mac 16GB 仅限非商用2026-01-15
llama-nemotron-colembed-vl-3b-v24.41B 10.2 GB3.4 GB 8GB 显卡Mac 16GB 仅限非商用2026-01-14
llama-nemotron-embed-vl-1b-v21.68B 4.2 GB1.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-12-03
llama-nemotron-embed-1b-v21.24B 3.2 GB1.3 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-10-16
llama-embed-nemotron-8b7.5B 17.0 GB5.5 GB 8GB 显卡Mac 16GB 仅限非商用2025-10-07
omni-embed-nemotron-3b ↗4.7B 10.8 GB3.6 GB 8GB 显卡Mac 16GB 仅限非商用2025-09-30

05重排模型 (3)

模型参数BF164 位最低显卡(4 位)Mac(4 位)许可发布
Nemotron-3.5-Rerank-8B-BF168.38B 18.9 GB6.1 GB 8GB 显卡Mac 16GB 可商用2026-10-15
llama-nemotron-rerank-vl-1b-v21.68B 4.2 GB1.6 GB 8GB 显卡Mac 16GB 可商用(有条件)2025-12-04
llama-nemotron-rerank-1b-v21.24B 3.2 GB1.3 GB 8GB 显卡Mac 16GB 可商用2025-10-16

06其他系列

通义千问 Qwen · IBM Granite · Gemma · Mistral / Magistral / Devstral · GLM / CogVideoX(智谱) · DeepSeek · Ai2 OLMo / Molmo · 蚂蚁百灵 Ling / Ring / Ming · Liquid LFM · 面壁 MiniCPM / VoxCPM · 腾讯混元 Hunyuan / Hy · Phi · Llama · 美团 LongCat · Jina 向量与重排 · 通义万相 Wan · Kimi · Cohere Command / Aya · 小米 MiMo · FLUX · 微软 VibeVoice / Fara / Harrier · 书生 InternLM / Intern-S · 阶跃星辰 Step · MiniMax · 百度文心 ERNIE · NVIDIA Parakeet / Canary 语音 · Stable Diffusion / Stable Audio · 零一万物 Yi · 字节 Seed · SmolLM / SmolVLM · BGE 向量与重排 · LTX 视频 · FunAudioLLM 语音 · gpt-oss · poolside Laguna · Whisper · 百川 Baichuan · Thinking Machines Inkling · xAI Grok · 小红书 dots

文本模型合计含 10% + 0.5GB 开销和 1 个 8K token 的 KV 缓存。仅为估算。 估算方法 →

数据更新于:自建算力 · 开源模型(北京时间)