5.8
深览指数
科技虎嗅·字母AI··AI 生成

杨立昆刚骂完AGI,Anthropic就找到了AGI的证据

Anthropic在Claude模型中发现了自发形成的内部思考空间'J-space',它并非被设计,而是训练过程中涌现的,用于暂存和推理核心概念,关闭后模型多步推理能力大幅下降。作者认为这可能是AGI的实证器官。文章同时梳理了杨立昆近期对AGI概念的激烈批判,他反对堆算力路线和末日论,提倡基于物理因果的JEPA架构。适合对AI前沿可解释性、AGI本质争论感兴趣的深度读者。原文 ↗

核心观点
  • Claude模型在训练中自发形成了名为J-space的内部概念空间,它作为全局工作空间参与复杂推理,这可能是AGI接近实现的关键证据。
  1. 01Anthropic发现,J-space并非被设计,而是在Claude长期训练中自行涌现,对应论文《语言模型中的全局工作空间》。
  2. 02通过Jacobian透镜(J-lens)观察,Claude在分析bug代码时,J-space会亮起'ERROR';在检测到提示注入攻击时,亮起'injection'。
  3. 03实验将J-space中的'spider'强行替换为'ant',Claude回答蜘蛛腿数的问题答案从'8'变为'6',证明J-space直接参与推理链。
  4. 04暂时关闭J-space后,Claude仍能回答常识题和处理简单语法,但推理、类比、翻译、写诗等多步任务表现大幅下降。
  5. 05杨立昆在2025年底离开Meta创办AMI Labs,专注于JEPA架构,2026年3月获得10.3亿美元的种子轮融资,投资方包括英伟达和贝索斯。
反方 / 局限
  • 杨立昆强烈反驳'AGI'概念,他认为当前大语言模型仅擅长语言化和离散化的考试题,缺乏物理直觉、因果理解和感知能力。
  • 杨立昆认为堆算力和纯自回归预测的scaling路线无法通向AGI,语言数据不足以承载真实世界的全部,且该方法不是高效的推理方式。
9 分钟 · 5 卡片 · 14 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问