从云原生走向 AI 原生:一套面向未来的架构方法论 → 阅读《AI 原生基础设施》

GPU 世代、模块与产品语言:把规格书读对

草稿

“H100 服务器”不是一份合格的物料清单:在读懂架构、产品、模块、平台、机架这五个词之前,规格书读得越细,坑埋得越深。

五个层级的词

这些词常被压成一句营销话术,但它们回答的是不同的问题:

  • 架构(architecture)描述一个设计家族,如 Ampere、Hopper、Blackwell;
  • 产品(product)是某款具体 GPU SKU,如 H100、H200、B200;
  • 模块或外形规格(form factor)描述它如何接入系统,如 PCIe 卡、SXM 模块;
  • 平台(platform)描述经过验证的 GPU、CPU、链路、网络、散热与固件组合,如 HGX、DGX;
  • 机架级系统(rack-scale system)描述一个更大的通信与服务域,如 NVL72。

这套词汇一旦清晰,规格书就好读了:“H100”不会告诉你它是 PCIe 还是 SXM;“Blackwell”不会告诉你系统配的是哪种显存、互连网络或功耗包络;“NVL72”不是一块 GPU,而是一个机架级域。

带正确告诫的世代地图

名称层级解读
A100Ampere 世代产品广泛使用的数据中心加速器;确切显存、外形与 MIG 配置因 SKU 而异
H100Hopper 世代产品Tensor Core 与 Transformer Engine 世代;SXM 与 PCIe/NVL 配置不同
H200Hopper 家族产品面向内存容量的选择;需核实确切板卡与平台
B100 / B200Blackwell 世代产品Blackwell 家族名;不要从家族名推断相同的功耗、显存或拓扑
GB200Grace Blackwell 超级芯片CPU–GPU 设计点,有自己的片间互连与平台假设
HGX / DGX / MGX平台标签集成度与生态责任的不同程度
表 1: GPU 世代与产品速查

如何不靠猜来对比 A100、H100 与 Blackwell

NVIDIA 的 H100 页面列出 H100 SXM 配置为 80 GB、3.35 TB/s 显存带宽、最高 700 W 可配置 TDP、最多七个 10 GB MIG 实例;同一页面列出 H100 NVL 条目为 94 GB、3.9 TB/s、350–400 W 可配置 TDP、最多七个 12 GB MIG 实例,其互连数值随外形不同而不同。这些数值绑定于具名的产品条目,不应外推到每一块 H100 板卡。

Blackwell 架构页描述了两颗受掩模版限制的裸片通过 10 TB/s 片间互连相连、第二代 Transformer Engine,以及包括 FP4 在内的微缩放格式。正确的解读是架构能力,而不是每个应用都自动获得标题里的吞吐,能否兑现取决于负载的算术强度(见微架构与 Roofline 模型)。

PCIe 与 SXM:选择改变系统

PCIe 卡适配广泛的服务器生态,通常更易采购、更换与混插。SXM 模块为紧耦合系统设计,配合更高的供电、专用基板和纵向扩展互连网络。这个决定影响机箱、散热、固件、可维护性、互连,以及未来升级的形态;SXM 平台的 NVLink 带宽优势(见互连与集合通信)正是由此而来。

采购纪律
索取确切的 GPU SKU、内存技术与容量、TDP 范围、外形规格、点对点拓扑、网卡挂载方式、支持的驱动范围和服务流程。把这五层词汇写进采购清单,逐项确认。

总结

产品语言是选型防坑的第一道防线:分清架构、产品、模块、平台、机架,才能把“我要 H100”细化成一份可验收的物料清单。结合微架构与 Roofline 模型的负载分析和决策轴的评估框架,选型就从“听厂商讲”变成“按清单核”。

参考资料

  • NVIDIA H100 与 Blackwell 架构官方页面。
创建于 2026/08/30 更新于 2026/08/30 1197 字 阅读约 3 分钟