5.0
深览指数
科技腾讯新闻·芯智讯··AI 生成

Sandisk新专利曝光:将NAND堆叠于GPU之下,破解AI内存墙

存储芯片厂商SanDisk公布一项新专利,将NAND Flash模块直接3D堆叠于计算芯片(GPU/AI加速器)之下,并与HBM共封装于同一中介层。该方案并非替代HBM,而是构建分层内存架构:HBM负责低延迟高带宽,NAND负责大容量读写,旨在降低延迟、功耗和系统成本。文章指出,该方案是SanDisk此前HBF路线图的延伸,但业界认为功耗控制、散热、封装良率等工程挑战巨大,距离商业化尚远。适合关注AI基础设施硬件架构(存储、内存、封装)的从业者阅读。原文 ↗

核心观点
  • SanDisk的新专利提出一种融合NAND Flash容量优势与HBM带宽优势的3D堆叠架构,旨在缓解AI计算中的内存墙瓶颈。
  1. 01该专利编号为US 12,430,274 B2,方案是将基于CBA(CMOS键合阵列)技术的NAND模块堆叠于GPU或AI加速器之下,HBM则置于周边,共封装于同一中介层。
  2. 02当前HBM面临多重瓶颈:产能扩充速度跟不上AI需求、单堆栈容量仅32GB至64GB、成本居高不下。
  3. 03相比之下,NAND Flash具备低成本、大容量优势(单堆栈可扩展至4TB),但传统上远离计算芯片,数据传输速度与DRAM存在代差。
  4. 04该方案是SanDisk此前提出的HBF(高带宽闪存)路线图的延伸,HBF架构类似HBM,通过硅通孔(TSV)堆叠多层NAND Flash。
  5. 05方案旨在通过加宽NAND与计算芯片之间的连接通道,降低数据传输延迟、节省功耗并降低整体系统成本。
  6. 06业界普遍认为,该专利仍是一项长期技术规划,距离商业化尚远。
反方 / 局限
  • 将NAND堆叠于高功耗GPU之下,散热问题是巨大的工程挑战;此外,处理器与多层NAND Flash紧密堆叠的封装复杂度与良率也是重大障碍。
3 分钟 · 3 卡片 · 8 资料
读原文 →

前置背景

争议局限

延伸追问