7.9
深览指数
科技虎嗅·01Founder©··AI 生成
别睡了，Anthropic今天凌晨发的东西，可能是AGI竞赛的分水岭。
本文解读了Anthropic近期发布的一篇可解释性论文，认为其核心发现——在Claude神经网络中定位到一块名为J-space的区域，相当于AI的“意识工作空间”——意义重大，可能是AGI竞赛的关键分水岭。作者通过梳理Karpathy等顶尖人才加盟Anthropic的背景，结合论文中关于J-space是“多步推理命门”的实验结论，推测Anthropic已掌握从观察到干预模型认知架构的能力，并已将此技术用于提升其最新模型（如Fable 5）的推理性能。文章提供了一个非内幕的、基于公开信息的战略推测视角，适合关心AI前沿技术竞争格局的读者。原文 ↗
核心观点
- ▍Anthropic 的最新论文不仅是一项可解释性研究，更可能揭示了其已掌握直接理解和改造大模型认知架构（通过操作J-space）的能力，这是区别于靠堆参数、数据、算力的“旧军备竞赛”的关键杠杆。
- ▍作者推测，Anthropic早在 Sonnet 4.5 时代就已系统性地发现J-space，并将其原理应用于后续版本（如Fable 5）的迭代中，从而在多步推理能力上取得断代式领先。
- 01Andrej Karpathy（OpenAI联合创始人）和诺贝尔奖得主 John Jumper 等顶级人才相继离开原岗位加入Anthropic的预训练团队，这反常的人才流向被作者认为是论文背后战略价值的信号。
- 02论文使用 Jacobian Lens 技术在Claude中定位到名为J-space的区域，其功能与神经科学的“全局工作空间理论”高度吻合。
- 03实验一：直接修改Claude内部J-space中关于“在想什么”的向量表征（如将“Soccer”改为“Rugby”），模型的输出会同步改变，证明J-space是意图的物理源头。
- 04实验三：当让模型计算“会织网的动物有几条腿”时，J-space中会短暂出现“spider”这个中间词汇；如果将该词汇替换为“ant”，输出答案也随之改变，证明J-space承载了推理过程中的关键中间步骤。
- 05移除J-space后，模型的流利对话、情感分类等功能几乎不受影响，但多步推理准确率从接近满分跌至接近零，表明该区域是进行深度思考的必要结构。
- 06Anthropic Fable 5 系统卡数据显示，在增加推理算力时，其复杂任务得分可从11.5%大幅提升至30.9%，而同期竞品模型几乎无变化，表明其在“推理能力随算力增长”这一特性上明显领先。
反方 / 局限
- — 作者明确承认，论文中发现的结构（J-space）是模型自主涌现的，且目前公开的应用场景是被严格限定在“审计”安全方向的。文章本身并未提供Anthropic确实已将J-space用于强化模型能力的直接证据。
- — 作者也表示，所有关于Anthropic利用J-space提升模型Fable 5的推测都缺乏实锤，存在过度解读的可能性，未来半年后回看，这可能只是可解释性研究的一次常规进展。
13 分钟 · 4 卡片 · 10 资料
读原文 →