5.7
深览指数
科技人人都是产品经理·苏墨水儿··AI 生成

一文搞懂Anthropic最新论文:什么是J-space,AI 也有自己的“念头后台”吗?

Anthropic 的最新研究揭示了 Claude 大模型内部存在一个类似“公共黑板”的认知区域——J-space。该区域提前承载着模型未说出口的中间概念,并参与了推理过程。研究发现,当模型被下达否定指令(如“不要想 X”)时,X 概念反而会被激活,这与人类“不要想紫色大象”的心理效应高度相似。文章适合对 AI 可解释性与认知科学交叉领域感兴趣的读者,其核心判断是:复杂的语言模型可能会自发涌现出前台与后台分离的内部结构。原文 ↗

核心观点
  • Anthropic 研究发现 Claude 大模型内部存在一个名为 J-space 的“全局工作空间”,它类似于人类意识理论中的“黑板”,模型未说出口的中间概念在这里被承载和操控,并确确实实参与了后续推理。
  1. 01当问 Claude“会织网的动物有几条腿”时,其内部先出现了“spider”概念,最终输出“8”;研究者将内部“spider”替换为“ant”后,输出结果变为“6”,证明该中间概念直接影响了推理结果。
  2. 02将 Claude 内部代表“法国”的概念替换为“中国”,其对首都、语言、大洲、货币等一连串相关问题的答案全部随之改变,说明 J-space 中的概念是一个能被模型不同模块共同读取和引用的共享信息。
  3. 03论文进行了与“不要想紫色大象”类似的实验,指令 Claude“不要想某物”,发现该概念虽弱于正面指令,但仍会明显出现在 J-space 中,表现出与人类类似的“否定强化”机制。
反方 / 局限
  • 文章明确表示,该研究不等于证明 AI 具有人类意义上的潜意识、主观体验或自我意识。它只是显示了一个复杂系统自发产生的内部结构,并未触及情感、欲望等深层心理世界。
9 分钟 · 5 卡片 · 10 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演

延伸追问