从零共享 GPU:基于 HAMi 的 Kubernetes GPU 调度动手实践
ContainerDays 2026 Singapore 现场工作坊(45 分钟)。在本地 kind 集群上安装 HAMi,用两块模拟 A100 完成 GPU 共享、binpack 与 spread 调度策略实验,并了解 KAI Scheduler、Volcano 与 DRA 等进阶路径。无需真实 GPU。
ContainerDays 2026 Singapore 现场工作坊(45 分钟)。在本地 kind 集群上安装 HAMi,用两块模拟 A100 完成 GPU 共享、binpack 与 spread 调度策略实验,并了解 KAI Scheduler、Volcano 与 DRA 等进阶路径。无需真实 GPU。
八年之后再回上海,我看到云原生正在成为 AI 的基础设施底座。
从「为什么要做 GPU 调度」讲起:默认调度器的三个盲区,节点、卡、拓扑三个调度维度,HAMi v2.10 如何用一条策略链覆盖它们;最后用 kind 上可复现的判决性实验裁决 mutex 的真实语义:它要的是一张零租户的卡。
GPU 共享正从软分配走向可治理,调度决策与运行时隔离开始能够对应。
HAMi 从集群走向桌面,Olares 让端侧 AI 有了真正的控制平面。
用 Kubernetes 老兵听得懂的类比,讲透 token、模型、训练、推理、Transformer、Tensor Core、HBM、KV Cache 到底是什么,以及为什么 AI 非跑在 GPU 上不可。
从 GPU 利用率到 Productive GPU-Hours,AI Infra 的效率升级。
从 GPU 硬件、Kubernetes 调度、推理引擎到 Token 成本,理解现代 AI 基础设施的八层可观测性架构。
最近 Linux Foundation 宣布成立 Tokenomics Foundation。这个基金会的意义可能不在于它会不会定义新的标准,而在于它隐含承认了一件事:Token 已经开始成为一种资源,就像 CPU 在云时代那样。
从一线实践和开源生态角度,分析 AI Infra 核心瓶颈的演变、CPU/GPU/调度的真实角色、云原生开源调度生态演进,以及训练、推理、Agent 等不同场景下的算力需求变化。