用 Kubernetes 老兵听得懂的类比,讲透 token、模型、训练、推理、Transformer、Tensor Core、HBM、KV Cache 到底是什么,以及为什么 AI 非跑在 GPU 上不可。
博客
AI、云原生与开源技术分享,实用经验与最新动态。
从 GPU 利用率到 Productive GPU-Hours,AI Infra 的效率升级。
解读 Hesham ElBakoury 的《AI Infrastructure Reliability Features and Architecture for Agentic AI》,从可靠性五维框架、容错、恢复、可观测性到混合架构,分析 Agentic AI 基础设施的设计原则,并从 AI Infra 视角给出评价。
从 GPU 到 Token:AI 基础设施的八层可观测性体系
从 GPU 硬件、Kubernetes 调度、推理引擎到 Token 成本,理解现代 AI 基础设施的八层可观测性架构。
我如何用 ChatGPT、OpenClaw、Obsidian、GitHub、飞书、GLM-5.1 和 Mac mini M4 构建一套个人 AI 基础设施。
Token 不只是计费单位,它正在成为 AI 时代的新资源单位
最近 Linux Foundation 宣布成立 Tokenomics Foundation。这个基金会的意义可能不在于它会不会定义新的标准,而在于它隐含承认了一件事:Token 已经开始成为一种资源,就像 CPU 在云时代那样。
AI 原生全景图独立上线:landscape.jimmysong.io
AI 原生全景图已迁移至独立域名 landscape.jimmysong.io,收录 600+ 开源项目,支持 AI Skill 搜索,欢迎 Star 和提交项目。
Kubernetes 正在成为 AI 时代的 GPU Control Plane
观察 AI 基础设施控制面演化的几个趋势,聚焦 HAMi v2.9、GPU 调度和 Kubernetes 资源模型。
在 KubeCon EU 2026 中,我感受到 Kubernetes 与 AI 浪潮的焦虑与变化。这篇文章深入探讨了 Kubernetes 在 AI 时代的挑战与未来发展机遇。
从词元、智元到 Token 本身,这场翻译之争背后,其实是语言系统、工程抽象与产业标准之间的深层冲突。