6.5
深览指数
科技微博·经济观察报··AI 生成

大模型绕不开造芯路?

7月7日,DeepSeek与智谱同日被曝自研推理芯片。本文剖析了国内大模型公司造芯的动因——推理需求激增下的算力紧张,以及自研芯片在成本与性能上的潜在优势。同时,文中借国产芯片工程师之口,点出相比训练芯片,推理芯片自研难度更低、投入周期更短,但高投入和长周期仍使结果充满不确定性。适合关注AI产业供应链、芯片国产化替代及大模型商业化的读者快速了解行业最新动向。原文 ↗

核心观点
  • 大模型公司自研推理芯片是应对算力短缺、降低成本和保障生态主动权的必然选择,但高投入与长周期使其成功具有不确定性。
  1. 017月7日,DeepSeek与智谱同日被曝正与芯片设计公司、晶圆代工厂和存储企业接洽,探讨合作自研推理芯片。
  2. 02国产芯片高级工程师指出,大模型公司侧重推理芯片的两大原因:国产自研推理芯片相对训练芯片更易成功,且Agent爆发后推理需求增长极快,国产芯片供不应求。
  3. 03用户统计,今年以来DeepSeek API服务已崩溃超过18次,智谱用户也频繁遭遇新模型报错和个人套餐排队难等问题。
  4. 04腾讯高管多次在财报电话会表示希望能买到更多的卡;火山引擎人士指出Seedance模型API服务供不应求。
  5. 05OpenAI于6月24日联合博通发布首款定制推理芯片,博通CEO称其性能媲美英伟达Blackwell和谷歌TPU,成本降低约50%。
  6. 06国内已布局多年的芯片厂商投入周期均在7年以上:百度昆仑芯(2011年)、阿里巴巴平头哥(2018年)、寒武纪等独立公司持续投入。
反方 / 局限
  • 自研芯片高投入、长周期,国内大模型公司收入水平远不及OpenAI,能否持续存在不确定性。
  • 芯片研发存在失败案例,如OPPO旗下哲库(ZEKU)2023年关停、3000人团队解散;京东芯片团队不到半年曝出公司主体切换。
3 分钟 · 5 卡片 · 13 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问