7.8
深览指数
科技虎嗅·梁卡尔··AI 生成

怎么一窝蜂就来了这么多“超节点”?

本文基于WAIC 2025现场观察,指出国产AI芯片竞争正从“拼单卡参数”转向“拼系统交付”,即以超节点为代表的系统级突围。文章核心观点是:这种路线是在先进制程受限下的现实妥协,它通过互连技术和统一调度将多张“不完美”的单卡拼凑成可用算力,但也带来了网络互连、散热功耗、机房改造、软件迁移等更复杂的工程和商业问题。对于寻找国产替代方案、关注AI算力基础设施成本的读者,本文提供了从技术路线到实际采购的完整视角,尤其适合管理者和技术决策者阅读。原文 ↗

核心观点
  • 国产AI芯片竞争正从“拼单卡参数”走向“拼系统交付”,通过超节点架构将多张性能不完美的单卡拼凑成可用算力,是面对先进制程受限的现实妥协,而非捷径。
  1. 01华为展示的昇腾Atlas 950超节点,支持1024卡规模,提供1 EFLOPS FP8算力,旨在通过灵衢互联协议和统一内存编址将大量芯片绑定。
  2. 02超节点热的直接原因是模型参数向万亿级迈进、上下文窗口拉长,以及Agent使用AI导致推理Token消耗量指数级增长,算力需求从单次请求转向高并发。
  3. 03互连面临物理极限:铜缆超过约3米后信号衰减加剧,催生“光进铜退”趋势,但光互连方案成本高昂,传统铜缆仍占主导。
  4. 04系统级突围的另一道硬约束在机房,超节点功耗可达400千瓦,液冷正从可选项变成工程必选项,但改造传统中小型数据中心代价高昂,需中断服务器负载。
  5. 05国产AI芯片路线分化,包括全功能GPU、TPU、RISC-V等,但买方市场只关心价格、软件平台适配度和进入国产合规体系的工作量。
  6. 06软件生态是最大难关:从CUDA迁移至国产平台是繁重的“苦力活”,需要重写算子和模型,开源模型迁移相对容易,闭源模型可能需要额外开发。
  7. 07国产算力当前第一关是“可用”,不少芯片停留在Demo阶段,实际部署会暴露工程漏洞;客户更注重眼下的采购经济账,不为“峰值性能”概念买单。
  8. 08推理场景是国产算力最关键的突破口,客户对成本和并发更敏感;核心客户画像为合规需求更刚性的国家队、运营商、金融巨头等。
  9. 09端侧算力也在形成系统级路线,安谋科技、此芯科技、摩尔线程等厂商通过端云协同策略,将推理能力向本地设备延伸。
反方 / 局限
  • 超节点热背后存在“军备竞赛”成分,海光信息工作人员指出万卡集群不是百卡系统的简单放大,规模过临界点后稳定性、功耗等挑战指数级飙升;大部分实际商用场景在8卡或16卡规模下已足够。
14 分钟 · 5 卡片 · 14 资料
读原文 →

前置背景

技术原理

平行视角

未来推演

延伸追问