6.1
深览指数
科技量子位·克雷西··AI 生成
Agent要数量也要脑子！浪潮信息一边单柜养4万Agent，一边让大模型组队答题
AI基础设施的核心任务正从支撑大模型推理转向支撑海量Agent的规模化运行。浪潮信息在2026开放计算大会上发布了两类产品：用于Agent规模化部署的CPU原生液冷整机柜（单柜可支撑4万+Agent），以及用于多模型协同推理的元脑SD200超节点企业版。文章指出，Agent时代对基础设施提出了新要求：CPU角色加重、算力配比多元化、散热从风冷转向液冷，竞争焦点从单模型支持转向系统级协同能力。适合关注AI基础设施、算力架构、企业级AI部署的读者。原文 ↗
核心观点
- ▍AI基础设施的核心任务已从支撑大模型推理转向支撑海量Agent的规模化运行与高质量Token的持续生产。
- ▍Agent时代基础设施竞争重点已从对单一模型的支持能力，转向系统级协同能力，CPU、GPU和软件平台三者协同才能支撑海量Agent稳定运行。
- 01IDC数据显示，2025年中国AI Agent企业级市场规模约190亿元，预计2025至2028年复合增长率超过110%。
- 02Gartner预测，2026年将有40%的企业应用集成任务型AI Agent。
- 03浪潮信息发布业界首款CPU原生液冷整机柜服务器，单柜最大支持384颗CPU，可支撑4万+个Agent协同运行，规模是其4月发布的“企千虾”方案的40倍。
- 04原生液冷方案将CPU、内存、网卡、光模块、SSD等所有发热部件一并纳入液冷散热体系，实现整机柜无线缆设计，运维效率提升100%以上。
- 05元脑EPAI平台上线多模融合API，将复杂任务同时分发多个候选模型独立生成答案，由评审融合模型整合输出，在DRACO测试中取得53.9%的成绩，高于任何单模型。
- 06元脑SD200超节点将Token生成时间从去年8.9毫秒压缩至4.77毫秒，成为国内首个突破5毫秒的方案，首Token延迟降低35%。
- 07浪潮信息发布元脑SD200超节点企业版，将Scale Up计算域从64卡减少到16卡，万亿参数模型首Token延迟降低40%以上。
反方 / 局限
- — 多模融合方案要求一次装下多个万亿参数模型，对底层算力要求更高，元脑SD200超节点的架构门槛对中小企业依然偏高。
9 分钟 · 4 卡片 · 10 资料
读原文 →