科技微博·量子位··AI 生成
浪潮信息一边单柜养4万Agent,一边让大模型组队答题
浪潮信息在2026开放计算大会上发布了两款产品,分别回应AI Agent时代对基础设施的新需求。核心观点是,AI基础设施的重心已从支撑大模型推理转向支撑海量Agent规模化运行与高质量Token生产。针对Agent规模化,其发布了业界首款CPU原生液冷整机柜,单柜可支持384颗CPU并运行4万+Agent。针对多模型协同,其在元脑企智EPAI平台上线多模融合API,并发布元脑SD200超节点企业版,通过多模型评审融合提升输出质量。本文本质上是浪潮信息的产品发布报道,信息密度中等,适合关注AI基础设施、企业计算架构的读者快速了解行业动向。原文 ↗原文 ↗
核心观点
- ▍AI基础设施的核心任务已从支撑单次推理转向支撑海量Agent的规模化运行与多模型协同。
- 01IDC预测,2025年中国AI Agent企业级市场规模约190亿元,2025至2028年复合增长率超110%。
- 02Gartner预测,2026年将有40%的企业应用集成任务型AI Agent。
- 03浪潮信息发布业界首款CPU原生液冷整机柜,单柜支持384颗CPU,可运行4万+个Agent,较此前方案规模扩大40倍。
- 04该机柜采用OCM架构,兼容x86和ARM不同代际处理器,无需重新设计整套系统。
- 05浪潮信息在元脑企智EPAI上线多模融合API,将任务分发给多个候选模型,由评审融合模型统一输出,在DRACO测试得分53.9%,高于任何单一模型。
- 06元脑SD200超节点企业版将48卡计算域缩至16卡,万亿参数模型首token延迟降低40%以上,降低中小企业迁移成本。
反方 / 局限
- — 多模型协同机制对底层算力要求极高,中小企业仍需面对部署门槛。
概念锚点
前置背景
平行视角
未来推演
延伸追问