Skip to content
简体中文

切换主题

第 3 步 · 装机方案 · 企业档

HGX B300 装机方案

一台服务器里 8 颗 Blackwell Ultra。下面每个参数都链接到 NVIDIA、整机厂商或政府来源;查不到的列在最后。

整机配置(8 卡节点)

GPU
8 × NVIDIA Blackwell Ultra(B300 SXM),HGX B300 基板nvidia.comdocs.nvidia.com
显存
每卡 288GB HBM3e,整机 2,304GB(约 2.3TB);每卡带宽最高 8TB/s,整机最高 64TB/sdocs.nvidia.comdocs.nvidia.com

⚠ NVIDIA HGX 产品页写的是“2.1 TB”,与参考架构的 2.30TB 口径不同(疑为 TiB 与 TB 之差),待核实

算力(整机)
FP4 144 PFLOPS(稀疏)/ 108 PFLOPS(稠密);FP8 72 PFLOPS;FP16/BF16 36 PFLOPS;INT8 3 POPS;FP64 10 TFLOPS厂商数据nvidia.com
NVLink
第五代 NVLink,GPU 间 1.8TB/s,整机合计 14.4TB/s;DGX B300 内置 2 颗 NVLink Switchnvidia.comnvidia.com
CPU
2 路。DGX B300:2 × Intel Xeon 6776P;参考架构最低每路 32 核、建议 56 核;OEM 有 Xeon 6(6700P 系列)和 AMD EPYC 9005 两种平台docs.nvidia.comdocs.nvidia.comsupermicro.comsupermicro.com
系统内存
参考架构最低 2TB;DGX B300 默认 2TB、可到 4TB;Supermicro 8U 最高 4TB(1DPC)/ 8TB(2DPC)DDR5-6400;HPE XD690 最低 2,048GBdocs.nvidia.comdocs.nvidia.comsupermicro.comhpe.com
东西向网卡(GPU 互联)
8 × ConnectX-8 SuperNIC 集成在基板上,每 GPU 800Gb/s(参考架构写作 2 × 400Gb/s 以太网);DGX B300 为 8 个 OSFP 口,支持 InfiniBand 或以太网,经 PCIe Gen6 连接docs.nvidia.comnvidia.comdocs.nvidia.com
南北向 / DPU
参考架构:1 × BlueField-3 B3240(2 × 400G);DGX B300:2 × 双口 QSFP112 BlueField-3(最高 400Gb/s),用于存储、带内管理和用户网络docs.nvidia.comnvidia.com
本地存储
DGX B300:系统盘 2 × 1.9TB M.2,数据盘 8 × 3.84TB E1.S。参考架构下限:推理每路 CPU ≥1TB NVMe、训练每路 ≥2TB,另加 1TB 启动盘nvidia.comdocs.nvidia.com
功耗与电源
DGX B300 约 14.5kW、系统最大 15kW;12 × 3.2kW 电源(N+N),200–240VAC 16A,C19/C20;另有 54VDC 母排版本。Supermicro 8U:6 × 6.6kW(3+3)钛金;Dell XE9780 / HPE XD690:12 × 3,200Wdocs.nvidia.comsupermicro.comdell.comhpe.com
散热
风冷:DGX B300 进风 10–30°C、风量约 1,500 CFM、散热 49,476 BTU/h;Supermicro 8U 风冷 10–35°C。液冷(直接液冷 DLC):Supermicro 4U SYS-422GS-NB3RT-LCC(官方注明需整柜交付和现场服务)、Dell XE9785L、HPE XD685 5U DLCdocs.nvidia.comsupermicro.comsupermicro.comdell.combuy.hpe.com
机架空间与重量
DGX B300 10U,442 × 482.6 × 904.2mm,168kg(电源版)/ 123kg(母排版);Supermicro 8U 风冷 119kg、4U 液冷 84.6kg;Dell XE9780 10U 156kg;Lenovo SR680a V4 8U。SuperPOD 参考设计每柜 4 台 DGX B300、约 56kWdocs.nvidia.comsupermicro.comsupermicro.comdell.comlenovopress.lenovo.comdocs.nvidia.com
系统软件
DGX OS 7(基于 Ubuntu 24.04);HGX 整机需安装数据中心驱动、CUDA,NVSwitch 系统还需 Fabric Managerdocs.nvidia.comdocs.nvidia.comdocs.nvidia.com

可购买的整机(以官方页为准)

厂商型号形态 / 散热CPU来源
NVIDIADGX B30010U 风冷(另有母排供电版)2 × Xeon 6776Pnvidia.com
SupermicroSYS-822GS-NB3RT8U 风冷2 × Xeon 6700Psupermicro.com
SupermicroSYS-422GS-NB3RT-LCC4U 直接液冷(整柜交付)2 × Xeon 6700Psupermicro.com
SupermicroAS-4126GS-NB3RT-LCC / AS-8126GS-NB3RT4U 液冷 / 8U 风冷2 × AMD EPYC 9005supermicro.com
DellPowerEdge XE978010U 风冷⚠ Dell 配置单写“B300 NVL8 270GB 1100W”,与 NVIDIA 的 288GB 不一致,待核实2 × Xeon 6dell.com
DellPowerEdge XE9785L液冷,ORv3 机柜2 × AMD EPYC 9005dell.com
HPECompute XD69010U 风冷⚠ QuickSpecs 提示 128GB 内存条供应紧张2 × Xeon 6hpe.com
HPEProLiant Compute XD6855U 液冷 / 6U 风冷2 × AMD EPYCbuy.hpe.com
LenovoThinkSystem SR680a V48U 风冷2 × Xeon 6lenovopress.lenovo.com
浪潮 / IEIT Systems待核实官网未找到 HGX B300 机型(NF5688G8 为 Hopper 平台)—ieisystems.com

Cisco 也转售 Supermicro 8U 机型;配置和供货因地区而异。

从单机到集群怎么组网

  1. 1. 单机(1 台 8 卡)

    8 卡走 NVLink;纯推理可以不建计算网络(参考架构原话:纯推理部署可不要计算网络,但以后做训练要停机改造)。南北向用 BlueField-3 接存储和业务网docs.nvidia.com

  2. 2. 小集群(2–16 台)

    每台 8 个 800G 口按“轨道”(rail)接到叶交换机:同号 GPU 进同一台交换机;规模小时计算网和融合网可以合并以省成本(参考架构做法)。交换机选 Spectrum-X 以太网或 Quantum-X800 InfiniBanddocs.nvidia.comnvidia.comnvidia.com

  3. 3. 企业参考架构(32 / 64 / 128 台)

    Spectrum-X 以太网、双平面胖树:计算核心层 SN5600 分别 12 / 24 / 48 台,融合网再 12 / 24 / 48 台,带外管理 SN2201 4 / 8 / 16 台;也支持更省钱的单平面docs.nvidia.comdocs.nvidia.com

  4. 4. DGX SuperPOD(每 SU 72 台)

    Quantum-X800(Q3400-RA,800Gb/s)InfiniBand,轨道优化、无阻塞、双平面胖树;1 SU = 72 台 / 576 GPU,参考设计 8 SU = 576 台 / 4,608 GPU,可扩到 72 SU、2,000+ 台。另有存储网(IB NDR 或 Spectrum SN5610 以太网)、带内网和带外网共 4 张网;出口建议至少 2 × 100GbEdocs.nvidia.comdocs.nvidia.com

能跑多大的模型

试算:显存计算器里有 8 × B300 →

价格

需询价需询价。NVIDIA、Supermicro、Dell、HPE、Lenovo 官网均未公开 HGX B300 整机价格,本站不引用渠道传闻价。DGX B300 页面引用 SemiAnalysis 的“DeepSeek-R1 每百万 token $0.24”属于厂商自述。nvidia.com

拿到报价后:和 API、云 GPU 比盈亏平衡 →

交付与合规注意事项

来源:federalregister.govbis.govdocs.nvidia.comsupermicro.comhpe.comdocs.nvidia.com · 在国内合规用上 AI

以上为公开文件摘要,不构成法律意见。

待核实项

数据更新于:算力硬件与整机方案