科技 腾讯新闻 · 智猩猩 · 6小时前 · AI 生成
AI教父Hinton首篇RSI论文：智能爆炸，可能发生！ Geoffrey Hinton 与多位顶尖学者联合发表论文，探讨 AI 研发自动化是否会触发「智能爆炸」——即 AI 越强、研发越快、更强的递归循环。论文给出了初步证据表明这可能发生，并估算了全自动化情景下 AI 研发劳动力可能扩大至数百万倍。文章同时分析了收益递减、算力数据瓶颈、难以自动化的任务等减速因素，并提出了三类主要风险（能力增速超过社会适应、人类失去监督力、权力制衡受冲击）。适合关注 AI 对齐、技术风险和前沿趋势的读者。原文 ↗ 原文 ↗
核心观点
▍ AI 研发自动化可能触发「智能爆炸」——AI 越强、研发越快、更强的递归循环——但不确定性很高，目前尚未达到门槛，不过差距正在缩小。 01 Anthropic 内部由 AI 产生并最终获批的代码占比，从 2025 年 1 月的个位数增长到 2026 年 5 月的 80% 以上。 02 AI 已能自主完成需要人类专家数小时甚至数天的 AI 研发任务，在某些安全研究问题上表现超过人类专家。 03 已有自动化 AI 科研系统完成「提出研究想法—运行实验—撰写论文」全流程，并通过顶级机器学习会议 Workshop 的同行评审。 04 论文估算，一旦 AI 达到专家级研发能力且运行成本与今天系统相当，一名前沿开发者可调动相当于至少数百万名顶尖人类研究人员的 AI 劳动力。 05 在三个 AI 研究子领域中，对研发投入的回弹系数中心估计为 1.2 至 1.9，若此参数不变且无其他瓶颈，AI 进步速度可能在约 1.5 年内提升 10 倍。 06 互联网数据供给增速可能在 2028 年后不足以支撑当前 AI 进步速度，合成数据和快速可验证反馈正成为突破手段。 反方 / 局限
— 论文本身指出，收益递减、算力和数据限制、难自动化的任务（如长时间训练循环）以及耗时很长的研发过程，都是可能踩下刹车的因素。 — 文章引用的回弹估计基于历史数据，但其不确定性很大，且「低垂果实」减少意味着线性外推可能不可靠。
前置背景 RSI 概念演变史：从理论到 2026 年爆发
递归自我改进（RSI）并非新概念，其思想可追溯至 1965 年 I.J. Good 的「智能爆炸」设想。2015 年 Yampolskiy 首次系统综述，但长期停留在思想实验阶段。直到 2026 年，OpenAI 发布「自动化研究实习生」目标，Anthropic 披露 Claude 主导 26% 的研发工作且代码占比超 80%，田渊栋等人创立 Recursive Superintelligence 公司——RSI 才从理论走入工程现实。这一概念的关键跃迁在于：从「AI 辅助人做研发」到「AI 主导研发流程，且改进后的 AI 更擅长改进自身」。
▸ 3 条关联资料
▼
平行视角 收益递减派 vs 加速派：RSI 的有效性之争
论文引用 r 值（研究努力回报率）约 1.2-1.9 支撑加速论，但 OpenAI 和 Anthropic 内部实测数据泼了冷水：尽管 AI 使用量暴增百倍，真正科研产出（实验运行次数）仅增 1.6 倍。要让 AI 研发速度翻倍，需先让研究员生产力提升约 40 倍。模型在内部 15 分钟真实任务上成功率仅 80%，离「自我维持加速」的阈值还差 5-10 倍。两边的分歧核心不在「是否会发生 RSI」，而在「发生在什么时间尺度——是按月翻倍还是按年线性增长」。
▸ 2 条关联资料
▼
未来推演 合成数据会是智能爆炸的关键解锁器吗？
论文指出互联网数据可能在 2028 年前耗尽，但合成数据与快速反馈回路可能绕过这个瓶颈。Gartner 预测到 2028 年 80% 的 AI 训练数据来自合成，成本仅为真实数据的 1/100。前沿实验室已在数学、编程领域用合成数据 + 可验证反馈加速进展。但质疑者警告「模型崩溃」风险——用自产数据递归训练会巩固错误。真正的分水岭不是合成数据「有没有用」，而是能否建立一套闭环，让合成数据迭代本身不出现误差累积。一旦实现，算力和数据两大瓶颈可能同时松动。
▸ 3 条关联资料
▼
延伸追问 谁来证明 AI 足够安全才能上线？
Hinton 在最新访谈中提出一个改变责任方向的思路：前沿 AI 模型上线前应像新药一样「证明安全」，而非发布后靠社会补救。目前全球只有约 1% 的 AI 研发投入流向安全研究，公司既当运动员又当裁判。如果 AUC 0.997 的医疗 AI 需临床试验才能上市，那能自主写代码、发论文、做网络安全攻击的 AI 系统，凭什么靠内部测试就能放行？这个问题的下一步是：独立评估团队的权限标准、安全测试的「通过门槛」、以及跨国执法机制——这些细节将决定监管是「方向盘」还是「装饰品」。
▸ 3 条关联资料
▼