7.4
深览指数
科技量子位·听雨··AI 生成

老黄垒20年的CUDA护城河,AI刚刚用10小时凿开了

一家初创公司Infinity用AI编程Agent,在10小时内为AI芯片公司d-Matrix搭建了一套类CUDA软件,引发对英伟达CUDA护城河是否被打破的讨论。文章指出,AI Agent确实能加速底层代码生成,但CUDA的壁垒在于20年积累的库、调试工具、开发者生态和验证工具链,而非代码本身。作者认为,短期英伟达护城河无恙,但AI推理市场将成为新战场,护城河正从“代码存量”向“验证和优化生态”迁移。适合关注AI、芯片产业和英伟达竞争格局的读者。原文 ↗

核心观点
  • AI Agent可以在数小时内为特定芯片生成底层代码,但CUDA真正的护城河是20年积累的库、工具、生态和验证链,而非代码本身,短期内难以被颠覆。
  • 英伟达的护城河正在从“代码存量”向“验证和优化生态”迁移,谁先占住新位置,谁才是下一个赢家。
  1. 01一家成立仅一年的公司Infinity,用名为Ignition的AI研究Agent,为AI芯片初创公司d-Matrix搭建了一套类CUDA软件,仅花费10小时。
  2. 02Ignition Agent的工作流程是:生成GPU Kernel、编译、运行、测试正确性和性能,然后根据反馈自动改写代码,形成闭环。
  3. 03在推理侧,CUDA不再是决定因素,韩国AI芯片公司Rebellions首席商务官Marshall Choy认为,这将是一场开源软件的竞争。
  4. 04d-Matrix CEO Sid Sheth判断,AI推理带来的机会最终会超过训练,且英伟达在推理方面的护城河有所削弱。
  5. 05CUDA平台可拆分为三层:内核层(Kernel、编译器、运行时)、库层(cuBLAS、cuDNN等)、框架层(PyTorch、TensorFlow及开发者生态)。
反方 / 局限
  • AI Agent能生成大量代码,但验证才是最大瓶颈。INT21创始人Bing Xu认为,证明一万行代码在各种边界情况下正确且稳定极慢,CUDA的验证工具链将成为下一道护城河。
  • Modular CEO Chris Lattner认为编码Agent带来的改进是渐进式的,理由有三:写代码只占软件工程一小部分;芯片软件小众,公开训练数据少;数百万行存量代码的迁移成本极高。
  • 英伟达自身也在使用AI Agent来加速CUDA开发和验证,进攻方的相对优势会因此打折。
11 分钟 · 4 卡片 · 10 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问