科技量子位··AI 生成
WAIC特别关注｜思想者论坛：当赛道疯狂内卷，谁在拆解AI底层的底层？
文章报道了WAIC 2026思想者论坛的圆桌讨论，核心议题是AI底层软硬件（如芯片、框架、编译器）在面临算力需求爆发、功耗墙、以及大模型训练成本飙升时的内卷与破局。多位产业界和学术界专家分享了在异构计算、存算一体、光计算、以及开源生态等方向上的探索，试图在技术路线和商业落地之间寻找平衡。适合关注AI基础设施、算力瓶颈和半导体产业的中高层技术决策者阅读。原文 ↗原文 ↗
核心观点
- ▍AI底层基础设施（芯片、框架、编译器）正面临巨大的内卷压力，因为现有架构（如基于Transformer的GPU方案）在能效和成本上已接近极限，需要从底层架构、材料、算法等多维度进行重构。
- 01参会专家提出，当前AI芯片设计正在从单一的GPU转向异构计算（CPU+GPU+NPU+FPGA），并探索存算一体、近存计算等新架构以突破数据搬运的功耗瓶颈。
- 02论坛讨论了开源生态的重要性，例如通过开源编译器（如MLIR、TVM）和底层框架（如OpenXLA）来降低异构芯片的适配门槛，而非依赖单一厂商的封闭生态。
- 03有观点指出，未来AI计算可能不再局限于电子芯片，光子计算、量子计算等非冯·诺依曼架构被视为长期突破方向，但短期内仍面临工程化难题。
- 04多位嘉宾提到，大模型训练成本急剧上升，倒逼产业界必须寻找更高效的训练和推理方案，包括模型剪枝、量化、蒸馏以及更高效的并行计算框架。
反方 / 局限
- — 论坛共识是，底层架构创新虽然方向众多，但多数仍处于实验室或早期工程验证阶段，距离大规模商业化落地仍有较长距离，且存在巨大的不确定性。
前置背景
平行视角
未来推演
延伸追问