GPU 共享正从软分配走向可治理,调度决策与运行时隔离开始能够对应。
Kubernetes
HAMi 从集群走向桌面,Olares 让端侧 AI 有了真正的控制平面。
用 Kubernetes 老兵听得懂的类比,讲透 token、模型、训练、推理、Transformer、Tensor Core、HBM、KV Cache 到底是什么,以及为什么 AI 非跑在 GPU 上不可。
从 GPU 利用率到 Productive GPU-Hours,AI Infra 的效率升级。
从 GPU 到 Token:AI 基础设施的八层可观测性体系
从 GPU 硬件、Kubernetes 调度、推理引擎到 Token 成本,理解现代 AI 基础设施的八层可观测性架构。
Token 不只是计费单位,它正在成为 AI 时代的新资源单位
最近 Linux Foundation 宣布成立 Tokenomics Foundation。这个基金会的意义可能不在于它会不会定义新的标准,而在于它隐含承认了一件事:Token 已经开始成为一种资源,就像 CPU 在云时代那样。
从一线实践和开源生态角度,分析 AI Infra 核心瓶颈的演变、CPU/GPU/调度的真实角色、云原生开源调度生态演进,以及训练、推理、Agent 等不同场景下的算力需求变化。
Token 背后的 GPU:Kubernetes 如何把算力用满
2026 超云生态沙龙分享,讲解 Kubernetes 环境下 GPU 算力调度与共享的最佳实践,涵盖 HAMi 项目及 GPU 切分、显存隔离等核心技术。
Kubernetes 正在成为 AI 时代的 GPU Control Plane
观察 AI 基础设施控制面演化的几个趋势,聚焦 HAMi v2.9、GPU 调度和 Kubernetes 资源模型。
在 KubeCon EU 2026 中,我感受到 Kubernetes 与 AI 浪潮的焦虑与变化。这篇文章深入探讨了 Kubernetes 在 AI 时代的挑战与未来发展机遇。