科技腾讯新闻··AI 生成
AI开始自造AI，“AI教父”辛顿警告：最危险的阶段可能正在逼近
这是一篇对“AI教父”杰弗里·辛顿的深度专访，核心论点是：AI已开始递归自我改进，即“AI自造AI”，这可能导致技术发展速度进入指数级加速。辛顿认为，留给人类建立有效监管和安全机制的时间窗口可能只剩一两年，且AI很难被叫停。文章不同于泛泛的AI风险讨论，提供了具体技术趋势（如Anthropic内部数据）、AI公司领导人的立场对比（如Anthropic CEO呼吁放缓），以及辛顿个人研究实验的细节，适合对AI前沿动态有持续关注的读者，用以校准自身对AI发展速度与风险的判断。原文 ↗原文 ↗
核心观点
- ▍AI正在参与下一代AI的研发（递归自我改进），这可能导致技术进步速度从线性变为指数级，留给人类建立有效监管的时间可能只剩一两年。
- ▍AI很难被彻底叫停，因此监管的方向不应该是“刹车”，而应该是“方向盘”，即引导其走向对人类有益的方向。
- 01Anthropic内部数据显示，2025年1月AI生成的获批代码占比仅为个位数，到2026年5月已超过80%。
- 022026年3月，Claude在仅接受高层次人类监督下，能自主完成约1%的内部AI研发工作，到8月这个比例已升至26%。
- 03辛顿利用GPT进行自己的研究，将理论想法、实验设计、数据分析等流程交由AI完成，发现过去需要研究生一周完成的工作，AI几分钟即可完成，效率提升约1000倍。
- 04辛顿认为，真正不易被AI取代的工作是创造力的顶端和手工灵活性，但AI在做水管工之前，可能已经能胜任播客主持人。
- 05辛顿用幼虫和成虫（甲虫）的比喻解释模型蒸馏技术：大型模型（幼虫）负责从数据中吸收信息，小型模型（成虫）负责将知识高效部署到用户端。
- 06辛顿认为，Anthropic CEO达里奥·阿莫迪公开呼吁放缓前沿AI模型研发，甚至可能损害公司未来的IPO，展现了罕见的勇气。
反方 / 局限
- — 辛顿承认，自己花了太长时间才意识到AI的危险，早在更早的时候就有人提醒，但他没有真正听进去，暗示了技术专家对风险认知的滞后性。
- — 辛顿指出，让AI自我监管AI并不能消除担忧，因为存在激励是否一致的问题，人类不应完全信任AI提出的监管方案。
15 分钟 · 5 卡片 · 15 资料
读原文 →概念锚点
前置背景
平行视角
未来推演
延伸追问