GPU 世代、模块与产品语言:把规格书读对
“H100 服务器”不是一份合格的物料清单:在读懂架构、产品、模块、平台、机架这五个词之前,规格书读得越细,坑埋得越深。
五个层级的词
这些词常被压成一句营销话术,但它们回答的是不同的问题:
- 架构(architecture)描述一个设计家族,如 Ampere、Hopper、Blackwell;
- 产品(product)是某款具体 GPU SKU,如 H100、H200、B200;
- 模块或外形规格(form factor)描述它如何接入系统,如 PCIe 卡、SXM 模块;
- 平台(platform)描述经过验证的 GPU、CPU、链路、网络、散热与固件组合,如 HGX、DGX;
- 机架级系统(rack-scale system)描述一个更大的通信与服务域,如 NVL72。
这套词汇一旦清晰,规格书就好读了:“H100”不会告诉你它是 PCIe 还是 SXM;“Blackwell”不会告诉你系统配的是哪种显存、互连网络或功耗包络;“NVL72”不是一块 GPU,而是一个机架级域。
带正确告诫的世代地图
| 名称 | 层级 | 解读 |
|---|---|---|
| A100 | Ampere 世代产品 | 广泛使用的数据中心加速器;确切显存、外形与 MIG 配置因 SKU 而异 |
| H100 | Hopper 世代产品 | Tensor Core 与 Transformer Engine 世代;SXM 与 PCIe/NVL 配置不同 |
| H200 | Hopper 家族产品 | 面向内存容量的选择;需核实确切板卡与平台 |
| B100 / B200 | Blackwell 世代产品 | Blackwell 家族名;不要从家族名推断相同的功耗、显存或拓扑 |
| GB200 | Grace Blackwell 超级芯片 | CPU–GPU 设计点,有自己的片间互连与平台假设 |
| HGX / DGX / MGX | 平台标签 | 集成度与生态责任的不同程度 |
如何不靠猜来对比 A100、H100 与 Blackwell
NVIDIA 的 H100 页面列出 H100 SXM 配置为 80 GB、3.35 TB/s 显存带宽、最高 700 W 可配置 TDP、最多七个 10 GB MIG 实例;同一页面列出 H100 NVL 条目为 94 GB、3.9 TB/s、350–400 W 可配置 TDP、最多七个 12 GB MIG 实例,其互连数值随外形不同而不同。这些数值绑定于具名的产品条目,不应外推到每一块 H100 板卡。
Blackwell 架构页描述了两颗受掩模版限制的裸片通过 10 TB/s 片间互连相连、第二代 Transformer Engine,以及包括 FP4 在内的微缩放格式。正确的解读是架构能力,而不是每个应用都自动获得标题里的吞吐,能否兑现取决于负载的算术强度(见微架构与 Roofline 模型)。
PCIe 与 SXM:选择改变系统
PCIe 卡适配广泛的服务器生态,通常更易采购、更换与混插。SXM 模块为紧耦合系统设计,配合更高的供电、专用基板和纵向扩展互连网络。这个决定影响机箱、散热、固件、可维护性、互连,以及未来升级的形态;SXM 平台的 NVLink 带宽优势(见互连与集合通信)正是由此而来。
总结
产品语言是选型防坑的第一道防线:分清架构、产品、模块、平台、机架,才能把“我要 H100”细化成一份可验收的物料清单。结合微架构与 Roofline 模型的负载分析和决策轴的评估框架,选型就从“听厂商讲”变成“按清单核”。
参考资料
- NVIDIA H100 与 Blackwell 架构官方页面。