科技智东西·王 涵··AI 生成
原生液冷不是液冷技术的“Pro Max”,Token工厂需要一次系统重构
本文指出,在AI Agent爆发、Token需求指数级增长的背景下,传统冷板液冷方案在MW级机柜功率下遭遇散热、空间、互连三重瓶颈,已无法满足Token工厂的产能需求。核心观点是:必须从系统层面重构计算、散热、互连与供电的耦合关系,而非对冷板方案修修补补。文章以浪潮信息的产品为例,介绍了其“原生液冷”架构如何通过一体化冷板、无中背板直连等技术,实现单柜千卡算力与百万级Token吞吐。适合关注AI基础设施、高密度计算与服务器架构的从业者阅读。原文 ↗原文 ↗
核心观点
- ▍传统冷板液冷在MW级单柜功率下,面临散热能力不足、散热结构挤占计算空间、散热与互连冲突三大系统性困境,无法通过局部优化解决,必须从系统源头进行重构。
- 01当前冷板液冷占据液冷数据中心市场93.5%的份额,但其底层逻辑仍是将风扇、冷板、软管、分液器层层叠加。
- 02单智能体的Token消耗量可达传统对话应用的百倍至千倍级,千卡集群已不够用,万卡、十万卡正在成为标配。
- 03单机柜功率正从数十千瓦跃升至数百千瓦,并进一步向MW级迈进。
- 04原生液冷通过一体化冷板和极简工程设计,实现零软管、零线缆、零风扇,装配接口减少80%,流阻降低60%,释放50%设备空间用于计算单元。
- 05浪潮信息GPU原生液冷整机柜在48U空间内承载千卡算力,单柜算力密度为传统方案的10倍以上,单柜功率覆盖330kW至1MW,大模型吞吐达到146万tokens/s。
- 06浪潮信息CPU原生液冷整机柜单柜集成384颗CPU,支持4万以上Agent高并发运行。
- 07原生液冷采用无中背板正交直连架构,64卡全互连架构可提供300TB/s互连带宽,支持224G高速数据传输。
反方 / 局限
- — 文章本质上是浪潮信息产品的技术宣传稿,完全站在本厂商立场,未提及任何竞争对手(如英维克、维谛技术、曙光)的同类方案,也未讨论原生液冷在成本、部署复杂度、维护性等方面的潜在劣势。
- — 「单柜算力密度提升10倍」等关键数据缺乏第三方独立验证或行业基准对比,难以判断其实际领先程度。
- — 零软管、零线缆的设计虽提高了空间利用率,但可能牺牲了系统维护的便捷性和灵活性,文章未对此展开讨论。
前置背景
平行视角
未来推演
延伸追问