科技微博·量子位··AI 生成
AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!
面壁智能的ForgeKernel智能体在无源码无论文条件下,用22.5小时、42轮迭代在B200上生成FlashMLA Prefill算子,耗时472微秒,比DeepSeek人类手写版本快9.8%。同一系统还登顶昇腾三张榜单,并在29项算子对比中24项打平或超越专家实现。文章用具体性能数字和迭代日志支撑其核心判断:算子优化正从人类手工调优转向AI自进化,国产芯片与模型的效率差距有望被快速填平。适合关注AI基础设施、芯片生态和RSI进展的读者。原文 ↗原文 ↗
核心观点
- ▍ForgeKernel证明AI可以在无源码、无论文、无人类写代码的条件下,通过自进化在特定算子上反超人类专家手写巅峰,标志着算子优化主体正从人类转向AI。
- ▍这套方法通用性强,不依赖具体硬件,能跨英伟达CUDA与昇腾CANN两套生态,显著缩短新芯片算子适配周期,有望缩小国产芯片与英伟达的软件生态差距。
- 01直播中ForgeKernel在B200上优化FlashMLA Prefill,最终版本耗时472微秒,比人类版518微秒快9.8%;首版1834微秒,不到4小时降至593微秒,全程42轮迭代、22个GPU小时。
- 02ForgeKernel同时登顶昇腾CANNBench三大硬件榜单:950DT得分4010.75、领先第二名27.8%,950PR得分4165.94、基准加速比1.638×,A3(910C)得分4341.16、加速比1.898×。
- 03arXiv论文JustGoal显示,仅给优化目标、不提供算子知识,模型在B200上10个算子中8个跑赢人类维护的开源库,平均成绩是KDA-0.5专用框架的0.95倍。
- 04ForgeKernel在29项算子对比中24项打平或超越专家实现,三套领先Agent系统公开的7个最强算子也全部打平或超越;生成算子已接入训练框架完成MiniCPM5-1B长训测试。
- 05同样AI优化方法在国产芯片上提速20%~30%,在英伟达上为5%~10%,因为CUDA算子库已被专家优化多年,国产芯片算子库尚不完善。
反方 / 局限
- — JustGoal论文承认,仅给目标时模型擅长调细节却难以独立设计好整体架构,常在开局几次尝试中就把路线定死,之后只能在原有架构里微调。
- — ForgeKernel的跨硬件通用性建立在迁移性能分析工具(如从NCU换到msprof)并重新积累硬件知识之上,并非零成本迁移;其方法通用性不等于算子在任意新硬件上可直接复用。
概念锚点
前置背景
论证骨架
平行视角
未来推演
延伸追问