第 3 步 · 装机方案 · 企业档
HGX B300 装机方案
一台服务器里 8 颗 Blackwell Ultra。下面每个参数都链接到 NVIDIA、整机厂商或政府来源;查不到的列在最后。
整机配置(8 卡节点)
⚠ NVIDIA HGX 产品页写的是“2.1 TB”,与参考架构的 2.30TB 口径不同(疑为 TiB 与 TB 之差),待核实
可购买的整机(以官方页为准)
| 厂商 | 型号 | 形态 / 散热 | CPU | 来源 |
|---|---|---|---|---|
| NVIDIA | DGX B300 | 10U 风冷(另有母排供电版) | 2 × Xeon 6776P | nvidia.com |
| Supermicro | SYS-822GS-NB3RT | 8U 风冷 | 2 × Xeon 6700P | supermicro.com |
| Supermicro | SYS-422GS-NB3RT-LCC | 4U 直接液冷(整柜交付) | 2 × Xeon 6700P | supermicro.com |
| Supermicro | AS-4126GS-NB3RT-LCC / AS-8126GS-NB3RT | 4U 液冷 / 8U 风冷 | 2 × AMD EPYC 9005 | supermicro.com |
| Dell | PowerEdge XE9780 | 10U 风冷⚠ Dell 配置单写“B300 NVL8 270GB 1100W”,与 NVIDIA 的 288GB 不一致,待核实 | 2 × Xeon 6 | dell.com |
| Dell | PowerEdge XE9785L | 液冷,ORv3 机柜 | 2 × AMD EPYC 9005 | dell.com |
| HPE | Compute XD690 | 10U 风冷⚠ QuickSpecs 提示 128GB 内存条供应紧张 | 2 × Xeon 6 | hpe.com |
| HPE | ProLiant Compute XD685 | 5U 液冷 / 6U 风冷 | 2 × AMD EPYC | buy.hpe.com |
| Lenovo | ThinkSystem SR680a V4 | 8U 风冷 | 2 × Xeon 6 | lenovopress.lenovo.com |
| 浪潮 / IEIT Systems | 待核实 | 官网未找到 HGX B300 机型(NF5688G8 为 Hopper 平台) | — | ieisystems.com |
Cisco 也转售 Supermicro 8U 机型;配置和供货因地区而异。
从单机到集群怎么组网
- 1. 单机(1 台 8 卡)
8 卡走 NVLink;纯推理可以不建计算网络(参考架构原话:纯推理部署可不要计算网络,但以后做训练要停机改造)。南北向用 BlueField-3 接存储和业务网docs.nvidia.com
- 2. 小集群(2–16 台)
每台 8 个 800G 口按“轨道”(rail)接到叶交换机:同号 GPU 进同一台交换机;规模小时计算网和融合网可以合并以省成本(参考架构做法)。交换机选 Spectrum-X 以太网或 Quantum-X800 InfiniBanddocs.nvidia.comnvidia.comnvidia.com
- 3. 企业参考架构(32 / 64 / 128 台)
Spectrum-X 以太网、双平面胖树:计算核心层 SN5600 分别 12 / 24 / 48 台,融合网再 12 / 24 / 48 台,带外管理 SN2201 4 / 8 / 16 台;也支持更省钱的单平面docs.nvidia.comdocs.nvidia.com
- 4. DGX SuperPOD(每 SU 72 台)
Quantum-X800(Q3400-RA,800Gb/s)InfiniBand,轨道优化、无阻塞、双平面胖树;1 SU = 72 台 / 576 GPU,参考设计 8 SU = 576 台 / 4,608 GPU,可扩到 72 SU、2,000+ 台。另有存储网(IB NDR 或 Spectrum SN5610 以太网)、带内网和带外网共 4 张网;出口建议至少 2 × 100GbEdocs.nvidia.comdocs.nvidia.com
能跑多大的模型
- NVIDIA 参考架构的说法:每块 B300 最多可承载约 120B 参数的模型,超过 120B 需要多卡模型并行(仍可在单机 8 卡内完成)。docs.nvidia.com
- 按本站公式估算(只算权重,未含 KV 缓存):整机 2,304GB 在 FP8 下约可放 1T 参数级权重并留出 1TB+ 给 KV 缓存;FP4 下权重减半。
- 实际能服务多大的模型、多少并发,取决于推理引擎、量化格式和上下文长度,上线前请用 vLLM / SGLang 的基准脚本实测。
价格
需询价需询价。NVIDIA、Supermicro、Dell、HPE、Lenovo 官网均未公开 HGX B300 整机价格,本站不引用渠道传闻价。DGX B300 页面引用 SemiAnalysis 的“DeepSeek-R1 每百万 token $0.24”属于厂商自述。nvidia.com
交付与合规注意事项
- 出口管制:美国 BIS 2026-01-15 新规只把 TPP < 21,000 且总 DRAM 带宽 < 6,500GB/s 的芯片(如 H200、MI325X)对中国大陆和澳门改为“逐案审查”,更高性能的产品仍是“推定拒绝”。B300 单卡带宽最高 8TB/s,高于该门槛——向中国大陆 / 澳门出口需许可证且大概率被拒;具体分类以 BIS 和供应商的合规结论为准。
- 总部在 D:5 国家组或澳门的实体(含其海外子公司)采购先进计算产品,在全球任何地点都需要 BIS 许可证(BIS 2026-05-31 指引)。
- 交付:DGX B300 不含线缆(用户指南);液冷机型需要整柜交付和现场服务;HPE 提示 128GB 内存条供应紧张;交期需向供应商确认。
- 机房:单机约 14.5–15kW,按 SuperPOD 参考设计每柜 4 台约 56kW,需要高密度供电(每台 12 路 C19/C20 或 54VDC 母排)和相应的承重(单机 120–170kg)。
- 国内对外提供生成式 AI 服务还需满足备案等监管要求,见本站「合规使用 AI」场景。
来源:federalregister.govbis.govdocs.nvidia.comsupermicro.comhpe.comdocs.nvidia.com · 在国内合规用上 AI
以上为公开文件摘要,不构成法律意见。
待核实项
- 整机显存:NVIDIA HGX 页写 2.1 TB,参考架构和 DGX 用户指南写 2.3TB(2,304GB)——疑为 TiB 与 TB 口径差异。
- Dell XE9780 配置单写每卡“270GB 1100W”,与 NVIDIA 的 288GB 不一致。
- 单卡功耗:只在 Dell 配置单找到 1,100 W;我们查到的 NVIDIA 页面没有列单卡 TDP。
- 浪潮 / IEIT Systems:官网未找到 HGX B300 机型。
- 价格:所有 HGX B300 整机均无官方公开价。
- 交期:各厂商不同,未公开。