异构加速器全景与生态：芯片类型、厂商版图与 Kubernetes 集成

成熟的 AI 系统不是押注单一算力，而是运行在异构芯片组合之上。对平台工程师来说，真正影响选型的不是谁融资多，而是这块卡能不能跑通你现有的 Kubernetes 调度体系。

本章用两个正交的坐标系建立加速器认知：设备类别（这块芯片是什么、擅长什么）与厂商版图（谁在做、集成难度如何）。两个视角回答不同的问题，缺一不可：只知道类别会陷入“NPU 都是端侧芯片”之类的误解，只知道厂商则容易把营销参数当工程事实。

为什么要分类：两种坐标系

很多团队一聊 AI 基础设施，第一反应就是“是不是该多买点 GPU”。到了 2026 年，这个问题已经过时了。很多 AI 芯片分析喜欢用“头部/腰部/尾部”或者“第一/第二梯队”来划分厂商，这种分法对投资人也许有用，但对基础设施工程师价值有限：一个融资三轮的通用 GPU 厂商和一个已经量产交付的专用推理芯片公司，放在一起比“梯队”没有意义，因为它们解决的是完全不同的问题。

更实际的做法是用两个正交的坐标系：

按设备类别分：CPU、GPU、TPU、NPU、DPU、APU、LPU。类别内部，工程决策的逻辑相似：通用 GPU 之间比 CUDA 兼容性和驱动成熟度，专用 AI 加速器之间比框架支持和场景适配。
按厂商阵营分：通用 GPU、专用 AI 加速器、云厂商自研芯片、垂直场景芯片。阵营决定了你能不能买到、能不能本地部署、能不能接入多云。

Kubernetes 集成成熟度则是横跨所有类别与阵营的一条评估主线。

设备类别：从 CPU 到 LPU

这些芯片类别不是营销产物，而是系统压力层层递进的结果：计算需求的增长超过了通用芯片单一路线能承载的效率边界。深度学习带来矩阵计算爆发，GPU 崛起；随后边缘 AI、低延迟推理、数据中心网络瓶颈、多租户隔离，又各自催生了新的专用处理器。

类别	全称	擅长什么	典型场景	最常见误用
CPU	Central Processing Unit	通用计算、复杂逻辑	控制面、预处理、调度	拿来硬扛大模型计算
GPU	Graphics Processing Unit	并行矩阵计算	训练、批量推理	用来做低并发强实时对话
TPU	Tensor Processing Unit	张量计算加速	Google Cloud 训练/推理	当作通用 GPU 使用
NPU	Neural Processing Unit	低功耗推理（端侧）与数据中心推理（昇腾）	AI PC、边缘设备、推理服务器	以为 NPU 只在端侧，或拿端侧 NPU 做训练
DPU	Data Processing Unit	网络/存储卸载	大规模 AI 集群	小规模场景过度建设
APU	Accelerated Processing Unit	CPU+GPU 紧耦合	单机微调、HPC	只看 FLOPS 忽略内存优势
LPU	Language Processing Unit	低延迟语言生成	实时 Agent、语音 AI	当通用训练芯片

CPU 的强项一直没变：分支判断、多任务调度、I/O 管理、数据预处理、Tokenizer、Agent workflow orchestration。它擅长的是决定“下一步做什么”，而不是把同一个乘加动作重复几十亿次。在 AI 系统里，CPU 更像控制平面，没有 CPU，GPU 集群往往也跑不顺。

GPU 赢在大规模并行矩阵计算：数千核心加 HBM 加 Tensor Core，把 Transformer、CNN、Embedding 依赖的矩阵乘法做到极致，至今仍是训练的默认选择。但 GPU 的利用率经常被高估（作业碎片化、多租户抢占、显存不匹配），GPU 越多调度越难，而且它不是天然适合低并发强实时的交互场景。

TPU 的逻辑是放弃通用性，换取特定任务的极致效率：针对 Transformer、JAX/TensorFlow 与 Google Cloud 深度优化。它更像一整套平台能力而不是单独一块卡，适合大规模训练与高密度 serving，不适合任意框架迁移、本地部署或高自由度实验。

NPU 需要特别澄清：它既是端侧 AI 的主角，也是数据中心的主力。端侧 NPU 为电池、发热、响应速度与本地隐私而生，负责实时字幕、本地 Copilot、语音助手；而华为昇腾 910 系列是数据中心训练与推理芯片，本书昇腾 vNPU一章分析的全部是机架级 NPU 服务器。把 NPU 等同于端侧芯片，会直接漏掉国产算力的一大块版图。

DPU 解决的是“问题不在 GPU，而在网络”的场景：RDMA 管理、存储 I/O、East-West 流量、加密开销。NVIDIA BlueField 是典型代表，几十卡以下感受不明显，几百卡以上会变成真实成本。

APU 押注统一内存：现实中大量性能浪费在 CPU 内存与 GPU 显存之间的 PCIe 来回复制上，APU 让两者紧耦合、共享地址空间。AMD MI300A 与 Apple Silicon Unified Memory 是代表路线。

LPU（Groq 提出）赌的是“LLM 推理是一条可高度流水线化的固定路径”，强调 token 生成延迟、确定性执行与极低 jitter。它是推理特化路线的实验方向，不是 GPU 替代品。

厂商版图：四大阵营

下面的图谱按通用 GPU、专用 AI 加速器、云厂商自研芯片和垂直场景芯片四个阵营组织厂商，底部标注了横跨所有类型的 K8s 集成成熟度评估线。

图 1: AI 加速芯片生态图谱：按芯片类型与 Kubernetes 集成成熟度分类

芯片类型	核心特征	K8s 集成难度	典型玩家
通用 GPU	兼容 CUDA/ROCm，通用计算	低	NVIDIA、AMD、海光、沐曦、摩尔线程、壁仞、天数智芯
专用 AI 加速器	自研架构，针对推理/训练优化	中	华为昇腾、寒武纪、燧原、算能、昆仑芯、Google TPU、Qualcomm
云厂商自研芯片	起于自用，部分已外销	视云而定	平头哥 PPU、AWS Trainium、Microsoft Maia、Meta MTIA、腾讯紫霄
垂直场景芯片	面向特定终端或场景	高（或不适用）	地平线征程、黑芝麻、爱芯元智、Apple Neural Engine

表 1: AI 加速芯片四象限分类

通用 GPU 阵营

NVIDIA 仍然占据绝对主导地位。Blackwell Ultra（B300/GB300）是当前量产主力，Rubin（Vera Rubin NVL72）自 2026 年年中起进入量产爬坡，CUDA 生态的护城河不是一年两年能填平的。Kubernetes 生态中 NVIDIA 提供了最完整的工具链：官方 Container Toolkit、Device Plugin、MIG 多实例支持，并且已经在推进 DRA 驱动。HAMi 对 NVIDIA GPU 的支持也最完善。选 NVIDIA 意味着最低的集成风险，代价是硬件成本和供应商锁定。

AMD 是最有力的替代选项。MI350 系列（MI355X）已规模出货，在性能上与 Blackwell Ultra 接近、性价比更有竞争力，ROCm 软件栈进步明显，PyTorch 官方支持已经比较完善，官方 Device Plugin 与 ROCm 容器运行时齐备，DRA 驱动开发中。主要短板在 CUDA 兼容性：HIP 转换工具能用，但大型项目的迁移成本不可忽视。

国产通用 GPU 厂商近几年进步很快，但工程成熟度和 NVIDIA 仍有明显差距。海光（Hygon）的 DCU（深算系列）是国产 GPGPU 中部署规模最大的路线之一，类 ROCm 生态（DTK）兼容主流 AI 框架，深算三号已在信创数据中心规模化落地，K8s 侧经自有插件与 HAMi 接入。摩尔线程是少数同时具备桌面和数据中心产品线的全功能 GPU 公司，MUSA 架构兼容主流图形和计算 API，K8s 集成通过自有 Device Plugin 和 HAMi 接入。沐曦走对标 AMD 的路线，曦云 C500/C550 强调 CUDA 兼容性。壁仞的 BR100 采用 Chiplet 架构，峰值参数亮眼但交付与软件栈成熟度还有距离。天数智芯是国内较早研发 7nm 通用 GPU 的企业。它们的共同挑战是 CUDA 生态兼容性；K8s 集成主要靠自有插件（基础调度）或 HAMi（共享调度），DRA 方案基本空白。

专用 AI 加速器阵营

华为昇腾是国内专用 AI 加速器中部署规模最大的。910 系列已迭代多代，CANN 加 MindSpore 构成完整软件体系，从芯片到服务器到云服务全栈覆盖，在信创和超算领域大量部署。K8s 集成提供专用 Device Plugin，支持静态和动态虚拟化，HAMi 已支持共享调度。主要限制是不兼容 CUDA、迁移成本高，DRA 驱动尚未公开。

寒武纪是国内 AI 芯片先行者，思元 590 已在大模型训练场景规模化落地。官方 Device Plugin 齐备，HAMi 已集成细粒度共享调度。燧原专注训练与推理，云燧与雨霁系列已迭代三代，获得腾讯投资。算能（Sophgo，比特大陆系）的 BM1684X/BM1688 推理芯片在视频结构化、边缘推理场景保有大量部署。昆仑芯是百度自研云端 AI 芯片，实际使用高度绑定百度生态。Google TPU 是海外代表：不对外售卖硬件，只通过 Google Cloud 提供服务，GKE 提供原生 TPU 支持，但社区标准的 Device Plugin 与 DRA 方案不适用。

海外阵营还有两个值得记录的变化：Qualcomm 以 Cloud AI 系列进入数据中心推理市场，AI200 计划 2026 年上市；Intel Gaudi 系列则在 2025 年后逐步退出，成为“收购造芯”路线的注脚。Cerebras（晶圆级）与 SambaNova（RDU）等新架构目前以专用系统形态交付，K8s 生态接入薄弱，暂不进入主流选型清单。

云厂商自研芯片阵营

云厂商自研芯片最初“不为卖而做，为己所用”，但 2025 到 2026 年出现了明确的外销转折，这个阵营的选型逻辑正在改写。

阿里巴巴平头哥是转折的标志。2019 年的推理芯片含光 800 只在阿里云内部部署；2026 年 1 月上线的 PPU 真武 810E（96GB HBM2e、700GB/s 片间互联）已对标 A800/H20 水平；2026 年 5 月发布的真武 M890 升级为训推一体（144GB HBM、800GB/s），并配套 128 卡超节点服务器与自研 ICN Switch 互联芯片。PPU 已从阿里云内供转向外销，出货达数十万片量级。腾讯紫霄仍服务于游戏 AI、内容审核与推荐等内部场景。百度昆仑芯横跨“自研”与“外销”两个象限，在推进外部商业化。

海外云厂商的自研芯片规模更大、K8s 生态也更成熟。AWS Trainium2 已随 Trn2 实例规模商用作训推，64 芯片 NeuronLink 互连的 Trn2 UltraServer 提供超节点形态；对本书读者最重要的是，EKS 同时提供 Neuron device plugin 与 Neuron DRA 驱动，是 NVIDIA 之外 DRA 落地最实的案例。Microsoft Maia 200（2026 年 1 月发布，3nm、216GB HBM3E）定位推理，正在 Azure 上线。Meta MTIA 公布了两年内四代（300 到 500）的路线图，覆盖排荐训练到 GenAI 推理。Tesla Dojo 经历了 2025 年 8 月解散与 2026 年初重启，转向车端与机器人推理，不建议纳入平台选型。Google TPU 横跨“专用加速器”与本阵营，是这条路线最早的产品化范本。

选型逻辑：深度使用某家云，可以评估其自研芯片经云服务使用的性价比；需要本地化部署的，平头哥 PPU 与昆仑芯已经开始外销，但软件栈成熟度需要按本书的验收方法自行验证。

垂直场景芯片阵营

地平线征程、黑芝麻的车载芯片服务于智能驾驶，爱芯元智（AXera）的推理 SoC 覆盖边缘视觉与智能汽车（已在港交所上市，下一代大算力芯片完成流片），Apple Neural Engine 内置于 iPhone 和 Mac。它们解决的是终端设备上的 AI 推理问题，部署形态是嵌入式系统或边缘设备，通常不需要也不适合接入 K8s 调度体系。另一条值得跟踪的新架构路线是存算一体：后摩智能已量产浮点存算一体芯片并用于端边大模型部署，它绕开了显存带宽瓶颈，但调度与切分语义与传统加速器不同，K8s 集成尚在早期。

Kubernetes 集成成熟度：一条横跨所有阵营的评估线

无论芯片属于哪个阵营，最实际的问题是：这块卡能不能跑通我现有的 K8s 体系？分三层评估。

基础调度层：Device Plugin 是否可用。 驱动能否在容器内正常工作、插件能否向调度器报告设备、Pod 能否拿到正确的设备可见性。NVIDIA 最好，AMD 基本可用，昇腾和寒武纪有官方插件，其余国产厂商主要通过自有插件或 HAMi 接入。

共享与隔离层：是否支持细粒度资源切分。 NVIDIA 有 MIG 硬件隔离、vGPU 软件虚拟化和时间片复用，HAMi 提供统一共享调度框架。昇腾有静态/动态虚拟化两条路径，其他国产厂商大多只有整卡分配。

控制面集成层：是否支持 DRA。 DRA 把设备分配从 kubelet 本地的 Allocate 黑盒提升到控制面可见的 ResourceClaim，详见 DRA 一章。NVIDIA 的 CDI-based DRA 驱动已进入 beta 阶段，AWS 在 EKS 上提供了 Neuron DRA 驱动，其他厂商基本处于观望或早期开发状态。

厂商	Device Plugin	共享/隔离	DRA 驱动	HAMi 支持
NVIDIA	官方，成熟	MIG/vGPU/时间片	Beta（CDI-based）	完善
AMD	官方，可用	SRIOV 部分支持	开发中	有限
Intel	官方，可用	整卡直通为主	探索中	有限
华为昇腾	官方，可用	静态/动态虚拟化	未公开	已支持
寒武纪	官方，可用	HAMi 集成	待推进	已支持
海光	自有插件	HAMi 接入	未公开	已支持
摩尔线程	自有插件	HAMi 接入	未公开	部分支持
沐曦/壁仞/天数智芯	自有插件	HAMi 接入	未公开	有限
Google TPU	GKE 原生	拓扑切分	云托管路径	不适用
AWS Trainium/Inferentia	EKS 原生	按 NeuronCore 粒度	已提供（EKS）	不适用

表 2: 各厂商 Kubernetes 集成成熟度速查

选型框架

把两个坐标系合起来，决策其实很直接：

预算充足且要最低集成风险：NVIDIA 仍是默认选项，代价是成本与锁定。
降低对 NVIDIA 的依赖：AMD 是当前最现实的替代，迁移成本主要在 CUDA 到 HIP 的适配。
信创或政策要求国产方案：通用 GPU 看摩尔线程与沐曦，专用加速器看昇腾（部署规模最大）与寒武纪。做好投入更多工程力量处理兼容性与稳定性的准备。
深度绑定某家云厂商：评估其自研芯片经云服务使用的性价比（AWS、Azure、Google 皆是此模式）。确需本地化部署的，平头哥 PPU 与昆仑芯已开始外销，按本书的验收方法自行验证其软件栈成熟度。
按工作负载选类别：训练优先 GPU；大规模云训练评估 TPU；端侧产品优先 NPU；超大规模集群必须考虑 DPU；单机微调看统一内存 APU；低延迟对话评估 LPU；CPU 永远在场。
多芯片混合部署：这是最有挑战也最有价值的场景。未来的竞争不是谁 GPU 最多，而是谁最会调度异构芯片；DRA 的成熟、HAMi 的扩展、Volcano/Kueue 的异构支持都在为这个方向铺路。

调度异构芯片是云原生的下一阶段

过去 Kubernetes 调度的是 CPU 和 Memory，后来加上了 GPU，未来会扩展到 GPU memory、topology、NUMA、tokens/sec、latency SLA、NPU slots 和 power budget。这意味着 Kubernetes 正在从容器编排器进化为 AI Control Plane，而异构芯片时代，资源调度层会越来越重要。

最后，别再迷信单卡性能榜。纠结 H100 强还是 B300 强、TPU 值不值、NPU TOPS 高不高，这些问题有价值但都不是核心问题。真正的问题是：你的系统是否让正确的任务跑在正确的芯片上。未来赢家不是买最多卡的人，而是最会组织算力的人。

总结

异构加速器的认知需要两个坐标系：设备类别回答“这块芯片擅长什么”，厂商阵营回答“我能不能买到并跑进我的 K8s 体系”。类别上，从 CPU 到 LPU 各有明确的甜蜜点与常见误用，其中 NPU 同时覆盖端侧与数据中心是最容易被低估的一条；阵营上，NVIDIA 以最低集成风险主导，AMD 是最现实的替代，昇腾与寒武纪领跑国产专用路线，海光与国产 GPGPU 充实了通用计算选项，云厂商自研芯片（AWS Trainium、平头哥 PPU、Maia、MTIA）则从自用走向外销与超节点。对所有这些芯片，Kubernetes 集成成熟度（Device Plugin、共享隔离、DRA）是横跨的评估主线，也是未来一两年区分生态优劣的关键指标。

参考文献

创建于 2026/04/19 更新于 2026/08/15 5721 字阅读约 12 分钟