7.3
深览指数
科技腾讯新闻·半导体行业观察··AI 生成

内存,比想象重要

本文核心论点是:在AI时代,内存的重要性已超越计算能力,成为整个IT系统的控制点。作者通过分析Gartner半导体收入数据、DRAM/SSD/HDD价格四年间的巨幅上涨(DDR5内存价格涨了9-13倍),以及HBM专供市场下的价格趋势,论证了内存供需格局的根本性转变。文章还独家剖析了GPU/XPU厂商(英伟达、AMD)为应对HBM成本与性能瓶颈的技术选择,如将内存控制器移至HBM堆栈以释放芯片面积。适合关注AI基础设施、半导体产业链、数据中心成本的从业者和投资者阅读。原文 ↗

核心观点
  • ▍随着AI演进,内存已取代计算能力成为IT系统的控制点,预算和设计重心正在转移。
  1. 012022年11月至2026年,DDR4服务器内存价格上涨2-3倍,DDR5价格上涨9-13倍,30TB企业级TLC SSD价格上涨6-7倍。
  2. 0230TB近线硬盘价格同期翻了2.5倍,超大规模数据中心和云服务商已包揽希捷、西部数据和东芝的绝大部分产能。
  3. 03HBM3E价格约每GB 13.50美元,下一代HBM4据传约16美元/GB(英伟达36GB堆栈合同价560-600美元),但作者对HBM4E价格翻倍(36美元/GB)的说法表示怀疑。
  4. 04英伟达计划通过将内存控制器集成到HBM堆栈(NVHBM),对比标准HBM4E可提升30%带宽、降低15%功耗,并在GPU计算芯片上释放25%面积。
  5. 05据传英伟达放弃2027年Rubin Ultra的1TB HBM4E方案,正考虑降至192GB;AMD Altair MI455X维持在488GB;初代Rubin Ultra可能的容量方案为512GB或384GB。
  6. 06Gartner预测2025-2026年半导体收入近乎翻番,但2026-2027年增速将放缓,作者认为竞争加剧和产能充足是主因。
反方 / 局限
  • — 作者提到HBM制造商将在2027年提高HBM4E价格,以使HBM盈利能力更接近标准DRAM——这意味着成本上涨压力将持续向下游传导。
  • — HBM内存的实际成本对终端用户而言极高:对NVIDIA/AMD GPU用户可能占加速器成本的一半,对超大规模云厂商可能接近65%。
8 分钟 · 5 卡片 · 13 资料
读原文 →

前置背景

技术原理

平行视角

未来推演

延伸追问