科技微博·量子位··AI 生成
供需失衡的窗口期里,商汤大装置把国产算力做成了正毛利生意
商汤大装置通过异构混合推理系统(将高算力芯片用于Decode阶段,国产芯片用于Prefill阶段)和端到端自营模式,将国产芯片算力业务的毛利率做到正数,日均Token处理量预计年底达年初25倍。文章详细拆解了其技术方案(MFU提升85%-152%)、商业模式(Token工厂)和资源整合策略(算电协同、生态合作),并指出当前高增长得益于Agent应用爆发导致的算力供需极度失衡窗口期,但认为其沉淀下来的方法论具有长期价值。适合想了解国产算力落地可行性、大模型基础设施运营策略的从业者与投资者阅读。原文 ↗原文 ↗
核心观点
- ▍商汤大装置通过系统层面的异构混合推理和端到端自营模式,将国产芯片算力业务从“谁买谁亏”做成了正毛利生意,并沉淀出一套可跨场景复用的资源组合方法论。
- 01商汤大装置将Prefill和Decode阶段分离,Decode交给高端芯片,Prefill交给国产芯片,一块高端芯片可带动约30块国产芯片协同工作。
- 02通过异构混合推理,主流国产芯片的MFU(模型算力利用率)提升了85%-152%,单位成本的Token产出提升了2.5倍。
- 03商汤采用自建机房、自购硬件、自研调度系统、直接对接客户的全包模式,避免了传统多层分工带来的效率损耗。
- 04商汤发布“算电协同Agent”,通过预测算力任务耗电特征并联动峰谷电价,使单位电力成本Token产出提升约80%。
- 05预计2026年7月末日均Token处理量达2.42万亿,年底目标10万亿,约为年初的25倍。
- 06商汤大装置已适配20多款国产芯片,其中六七款能稳定商业化盈利,并联合寒武纪、华为昇腾等近20家生态伙伴发起国产AI基础设施生态共建计划。
反方 / 局限
- — 文章承认当前高增长部分得益于特殊的市场窗口期:Agent应用爆发导致算力需求同比涨5-10倍,而大厂优先保内部业务,第三方溢出需求无人承接。供给端一旦追上来,这轮红利大概率会收窄。
前置背景
平行视角
未来推演
延伸追问