7.4
深览指数
科技虎嗅·孤独大脑··AI 生成
AI 会是人类最后的发明吗？
老喻（与 Gemini 合作）系统梳理 AI 递归自我改进（RSI）的真实进展与边界。核心判断：2027 年不会出现完全自主的 Full RSI（作者给 30%–40% 概率），但『窄域小闭环』已成事实，真正该盯的不是某个奇点日而是反馈环缩短的斜率。文章给出三大实验室内部数据（Anthropic 80% 代码由 Claude 写、OpenAI 每个工作日对应 3.1 个 Agent 工作日）、METR 的 1.5× 加速评估，也主动拆解了验证瓶颈、过拟合、局部最优与『九个孕妇』等慢变量约束。适合想绕过 AI 情绪叙事、拿到具体数据与判断框架的读者。原文 ↗
核心观点
- ▍RSI 的命门不在 Self-Improvement 而在 Recursive——第一代 AI 参与制造第二代、第二代更擅长锻造第三代，智能从生产资料变成生产更多智能的资料，游戏性质才真正改变。
- ▍不必等 Full RSI 闭合世界就已天翻地覆；真正该盯的指标是反馈闭环『一年比一年短』的斜率，而非某个可标注在日历上的奇点日。
- 01三大实验室 2026 年内部数据：Anthropic 生产代码库超 80% 合并代码由 Claude 编写，每位工程师日均合并量约为 2024 年的 8 倍；OpenAI 研究部门每个『人类工作日』对应约 3.1 个 Agent 工作日；Google 的 AlphaEvolve 直接优化了训练自身底座模型的算法。
- 02窄域小闭环已跑通：Darwin Gödel Machine 自主修改自身 Coding Agent，把 SWE-bench 成绩从 20% 推到 50%；AIDE² 连续自主运行八天、迭代七代，进化出的能力可迁移到未参与优化的任务。
- 03第三方机构 METR 2026 年 9 月评估：AI 对前沿研发的整体加速约 1.5×（12 个月进展压缩到约 9 个月），达到 2× 加速的概率约 30%；FutureSearch 保守锚点是 2029 年加速可能到 5×。
- 042026 年一项涵盖 1,250 篇自我改进论文的综述给出铁律：自我改进能走多远严格受限于验证器可靠程度——有形式化验证的领域最强，依赖模型主观自评的领域最弱。
- 05TasteVal 基准测试（2026 年 10 月）：Claude Opus 5.5 在『设计实验方案与解读结果』上超越人类专家基线，实验算力效率达人类 2.3 倍，2025 年 12 月以来该指标约每三个月翻倍一次。
- 06个人与组织层面的三道反人性门槛：传感器被自尊心污染（不敢接收 Error）、反馈延迟过长引发『淋浴间震荡』、习惯打补丁而非删代码；马斯克五步工程算法排第一的是『质疑需求本身』而非优化。
反方 / 局限
- — 作者主动承认概念类比可能被过度延展：PDCA、精益创业、个人元认知与 AI RSI 只是『共享深层结构』，而非同一件事；严格 RSI 要求改进者本身也被增强且可跨代继承。
- — 反方阵营明确：Demis Hassabis 把 AGI 锚定在 2030 年前后，指出当前系统缺长期记忆、稳定长程规划、物理理解与持续学习；Yann LeCun 认为自回归语言模型路线无法抵达人类级智能，今日所谓 RSI 本质只是越来越复杂的局部优化循环。
- — 作者自行拆解多处硬约束：『九个孕妇无法一个月生孩子』——信任、深度关系、基础认知等慢变量不可递归压缩；过度高频重写会引发灾难性遗忘与过拟合；完全封闭的自指循环会滑向『递归自我欺骗』与模型坍塌。
- — 作者保留一种基础性怀疑：若真正的全知 AGI 存在数学与认识论上的上限（没有免费午餐定理、哥德尔不完备、波普尔—多伊奇的解释性猜想、生命的自创生目的性），则机器可能始终是工具而非主体，人类的价值落到不可外包的『责任』（Skin in the Game）。
递归自我改进（RSI）智能爆炸假说阿姆达尔定律古德哈特定律没有免费午餐定理自举（Bootstrapping）稳定-可塑性困境怪圈（Strange Loop）老喻I.J. GoodLeopold AschenbrennerJack ClarkSergey BrinDemis HassabisYann LeCun侯世达（Douglas Hofstadter）詹姆斯·斯科特AnthropicOpenAIGoogle DeepMindMETRFutureSearchSpaceXNASADarwin Gödel MachineAlphaEvolveTasteVal 基准测试2010 年闪电崩盘
65 分钟 · 5 卡片 · 2 资料
读原文 →