7.4
深览指数
科技腾讯新闻·半导体行业观察··AI 生成

GPU,跌落神坛

文章核心结论是:随着超大规模云厂商和前沿AI模型公司(如OpenAI、Google、Meta)自研定制AI芯片(如Jalapeño、TPU 8、MTIA)的性能快速提升,英伟达GPU在AI计算市场的主导地位将在2-5年内面临严峻挑战。作者通过Hot Chips 2026大会上多款定制芯片与英伟达最新Vera Rubin的基准测试对比,论证定制芯片在特定负载(推理)上已能与GPU抗衡甚至超越。文章也分析了英伟达维持优势的策略,包括巨额供应锁单和完整系统方案。适合关注AI基础设施投资、芯片产业竞争格局的技术决策者阅读。原文 ↗

核心观点
  • 英伟达GPU在AI计算领域的统治地位将在2-5年内受到严重挑战,因为超大规模云厂商和前沿模型公司正在开发并大规模部署性能可媲美(甚至超越)GPU的定制化AI芯片。
  • 当前GPU占全球已安装AI计算能力的70%,但定制芯片占比(主要来自谷歌和亚马逊)已达30%,且这一趋势正在加速。
  1. 01英伟达最新Vera Rubin超级计算机性能是前代GB300的2-30倍(取决于交互性需求),并已全面投产,预计支撑2026-2027年70%的年增长。
  2. 02OpenAI首款推理芯片Jalapeño在单token预测(STP)基准测试中显著优于GB300,粗略估计性能与Vera Rubin NVL72相当甚至略胜。
  3. 03Google同时发布TPU 8t(训练)和TPU 8i(推理),性能约为前代两倍。摩根士丹利预测其TPU销售额2027年将达840亿美元,2028年达1080亿美元,接近英伟达当前营收水平。
  4. 04Meta的MTIA推理加速器针对其TB级稀疏嵌入表工作负载优化,第二款MTIA 300在批量训练性价比上已略超GPU,且路线图显示每6个月推出新芯片。
  5. 05Anthropic已组建内部芯片团队,招募了OpenAI硬件团队核心成员Clive Chan,为其Claude模型设计定制芯片。
  6. 06英伟达的供应承诺额已从1190亿美元翻倍至2790亿美元,通过锁定台积电晶圆和HBM供应来构建壁垒。
反方 / 局限
  • 定制芯片的规模化主要受限于台积电晶圆配额(如Jalapeño产能取决于Broadcom获得的晶圆量),且无法用于大模型训练(训练可能占需求1/3以上),GPU在训练任务上仍不可替代。
  • 英伟达正通过购买OpenAI股份、投资无权重模型(如Nemotron)和收购Poolside团队等方式,试图从模型开发者视角获取洞察,维持客户粘性。
  • 文章分析基于Hot Chips大会的有限基准测试数据,Jalapeño的真实生产部署性能仍有待验证,MTP(多token预测)技术带来的3-5倍性能提升尚未实测。
16 分钟 · 4 卡片 · 10 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问