科技腾讯新闻·IT之家··AI 生成
HBM之父金正浩：AI本质是内存，GPU真正利用率仅10%-30%
被誉为「HBM 之父」的金正浩教授提出，AI 的核心正在从 GPU 转向内存。他给出关键数据：即使部署百万块 GPU，其实际计算时间仅占 10%-30%，瓶颈在于 HBM 与 GPU 之间的数据传输。文章预测了从 HBM 到 HBF（NAND 堆叠）、再到 HBS（SRAM 晶圆级）的三阶段演进路线，并构想未来 AI 计算机将形成约 100 层的 3D 复合内存架构。适合关注半导体产业、AI 基础设施架构与内存技术路线的深度读者。原文 ↗原文 ↗
核心观点
- ▍AI 的核心竞争力正从 GPU 转向内存，因为 AI 推理阶段的实际性能瓶颈在于数据搬运速度，而非计算能力。
- 01金正浩指出，AI 每次输出结果都必须从 HBM 读取数据、传到 GPU 计算、再将结果写回内存；即使部署 100 万块 GPU，真正用于计算的时间也只有 10%-30%。
- 02他认为过去的 AI 以训练为主，GPU 是核心；但进入推理时代后，一次能处理多少数据以及处理速度成为关键，内存能力直接决定 AI 性能。
- 03金正浩预测，随着多模态 AI 和 Agentic AI 的兴起，对保存视频、文档、长期记忆等冷数据的需求将推动 HBF（NAND 闪存堆叠）技术成为主流，10 年后其市场需求将超过 HBM。
- 04他构想的更远期技术 HBS（高带宽 SRAM）将采用读写速度比 DRAM 快 1000 倍的 SRAM，在整片 12 英寸晶圆上铺设 SRAM，目标容量约 1600GB。
- 05金正浩设想未来 AI 计算机由约 100 层的 3D 复合架构组成：HBM 充当商场、HBF 层相当于住宅区、HBS 承担高速缓存功能，共同给 GPU 供给数据。
反方 / 局限
- — 文章未提及 HBM 及后续 HBF/HBS 技术的大规模量产面临的热管理、良率及成本等工程挑战，也未讨论其他技术路线（如存内计算、光子计算）对内存主导路线的替代可能性。
前置背景
技术原理
平行视角
未来推演
延伸追问