7.6
深览指数
科技腾讯新闻·DeepTech深科技··AI 生成

菲尔兹奖新晋得主曾警告AI会灭绝人类,结果转身加入OpenAI

菲尔兹奖新晋得主齐默尔曼在获奖后宣布加入OpenAI从事AI安全研究,这与他此前公开警告AI灭绝人类、支持暂停前沿AI开发的立场形成鲜明反差。文章梳理了其转变的完整脉络:从早期将AI视为研究助手,到参与验证AI攻破单位距离猜想后,意识到AI已能参与数学发现,并预测两年内定理证明能力超越人类。他最终判断AI发展无法暂停,且风险增长需要数学级别的安全保证,因而选择加入OpenAI。文章适合对AI安全、数学与AI交叉领域感兴趣的读者,尤其是想理解顶级数学家立场转变背后逻辑的人。原文 ↗

核心观点
  • 齐默尔曼从警告AI灭绝风险到加入OpenAI,并非立场矛盾,而是基于对AI能力快速迭代的认知升级:从认为AI是助手,到亲历其参与数学发现,最终判断发展不可逆,转而寻求用数学方法提供安全保证。
  1. 012025年他与合作者发表论文《涉及人工智能的全人类灭绝未来分类》,将AI灭绝人类路径分为五类,并公开支持暂停前沿AI开发。
  2. 02他早期已将大模型(ChatGPT、Claude)用于数学研究,称效率提高一倍,但当时认为模型证明不准确,仅提供思路。
  3. 032026年5月,受邀验证OpenAI模型攻破单位距离猜想后,他给出极高评价,称若由数学家完成应支持顶级期刊接收。
  4. 04他公开预测AI可能在两年内比人类数学家更擅长证明定理,并已暂停招收传统方向博士生,以应对数学职业可能的变化。
  5. 05其学生Levent Alpöge在Anthropic利用Claude Fable 5找到雅可比猜想反例,进一步印证了AI在数学发现中的角色。
  6. 06他转向研究多AI智能体复杂系统的安全证明,认为风险越高,安全结论越需要数学证明的确定性,而非经验或测试。
反方 / 局限
  • 文章未呈现对「加入OpenAI是有效路径」的质疑,也未讨论AI安全研究在体制内(如非营利组织、学术机构)与商业公司(有逐利动机)之间的紧张关系。
8 分钟 · 4 卡片 · 12 资料
读原文 →

前置背景

平行视角

未来推演

延伸追问