7.9
深览指数
科技虎嗅·机器之心··AI 生成

从TPU到自我进化的Agent,Jeff Dean如何判断AI的下一步

Jeff Dean 在 YC Startup School 2026 年的访谈中,系统阐述了 AI 发展的下一阶段不是更大的模型,而是将模型置于一个能长期工作、自动验证、持续积累能力的系统里。他提出了几个核心判断:AI 能力已接近初级工程师且增长快于预期;AI 竞争正从“谁有更大模型”转向“谁更能组织智能”;小团队的机会在于寻找通用模型成功率只有 0% 或 1% 的结构性盲区,而非已能做 20% 的任务。文章还深入探讨了推理硬件、数据搬运成本、上下文工程、长程 Agent 的可靠性问题,并为创业者提供了基于第一性原理的思考框架。适合对 AI 产业趋势、技术架构和创业策略有深度需求的读者。原文 ↗

核心观点
  • AI 的下一阶段,不只是把模型训练得更聪明,而是把模型放进一个能长期工作、持续试错、自动验证、不断积累能力的系统里。AI 竞争正在从「谁有更大的模型」,转向「谁能更好地组织智能」。
  • 小团队的机会在于寻找通用模型当前成功率接近 0% 或 1% 的任务,而不是已能完成 20% 的任务,因为低成功率暗示存在结构性盲区(如专有数据、专业评价器、窄领域模型)。
  1. 01Jeff Dean 认为 AI 能力已接近一名初级工程师,且在 Agent化、长流程编码和复杂任务上的进步,比他当时预想得更快。
  2. 022013 年,基于语音识别效果提升将导致使用量激增的估算(每用户每天三分钟),Jeff Dean 推动开发了专用硬件 TPU,其比当时的 CPU 和 GPU 节能 30 到 80 倍,延迟低 20 到 30 倍。
  3. 03完成一次数学乘法约需一个皮焦耳能量,而将数据从高带宽内存搬到计算单元的成本可能高出约 1000 倍,因此 AI 系统中的昂贵动作是“搬运数据”而非“计算”。
  4. 04长程 Agent (如运行数天或数周) 面临分布外问题,需要检查点、状态管理、回滚、分支探索和外部评估,其设计更像一个分布式系统,而非超长聊天窗口。
  5. 05Google 团队用神经网络近似器替代密度泛函理论模拟,将验证速度提升约 30 万倍,实现了科研中高频搜索的可能性。
  6. 06一篇关于知识蒸馏的论文于 2014 年被 NeurIPS 拒绝,但后来成为行业基础技术,并用于 Gemini Flash 模型以保持低延迟和高能力。
反方 / 局限
  • 虽然强调 Agent 将运行更长时间,但 Jeff Dean 也承认当前模型在连续操作(如第 30 步或第 50 步)会因分布外问题失控,性能下降,错误容易累积。
  • Jeff Dean 指出通用模型正在迅速变强,今天看似独立的产品功能可能在六个月或十二个月后被基础模型直接覆盖,这对创业者的优势耐久性构成挑战。
  • 文章提到,像 TPU 这种专用硬件需要平衡“专用化程度”,专用得不够收益不明显,专用得太狠,算法一变,硬件就会过时,这暗示了硬件投资的风险。
25 分钟 · 4 卡片 · 9 资料
读原文 →

前置背景

技术原理

未来推演

延伸追问