7.0
深览指数
科技微博·量子位··AI 生成
刚刚，Hinton发了首篇RSI论文
AI教父Geoffrey Hinton联合Yoshua Bengio、Jakub Pachocki等22位学者发表论文，系统探讨递归自我改进（RSI）触发智能爆炸的可能性。核心结论是：AI已开始进入研发下一代AI的流水线，Anthropic内部数据显示AI自主完成研发工作的比例在半年内从1%激增至26%。但论文同时明确指出，当前证据还远远不足以证明智能爆炸已经发生，算力、数据、实验时间及科研回报递减是四大现实瓶颈。适合关注AI前沿趋势、技术哲学及产业影响的高知识水位读者阅读。原文 ↗
核心观点
- ▍如果AI能够完整参与研发下一代AI，递归自我改进的反馈循环就可能真正启动，未必需要AI先变成超级智能，只要研发自动化效率足够高，智能爆炸就可能发生。
- 01Anthropic数据显示：2026年3月Claude能在高层人类监督下自主完成约1%的AI研发工作，到同年8月该比例升至26%，半年内翻了二十多倍。
- 022025年1月AI生成获批代码比例仅有个位数，2026年5月这一比例已超过80%。
- 03OpenAI内部系统截至2026年9月已能经常完成原本人类员工需数天的研发任务。
- 04如果AI研发全面自动化且研究回报维持历史趋势，AI进步速度可能在大约1.5年内提高10倍，今天一年的进步可能被压缩到约5周。
- 05一家领先AI公司的算力理论上可支持数百万名顶级研究员等价的AI研发劳动力，而目前前沿实验室团队仅几千人。
反方 / 局限
- — 论文明确强调当前证据远不足以证明智能爆炸已发生，AI研发自动化和智能爆炸之间还有很长串条件：AI需足够可靠、真正提高研发产出、新成果反过来增强AI自身能力。
- — 算力是核心约束：AI研究员可复制，但GPU和训练时间受物理世界限制，百万Agent最终需排队等卡。
- — 科研存在边际收益递减（returns to research effort），越往后突破越贵，如果科研难度上涨快于AI研发能力，智能爆炸便不会发生。
10 分钟 · 3 卡片 · 6 资料
读原文 →