7.3
深览指数
科技智东西·程 茜··AI 生成
刚刚，Anthropic发现Claude“长出”意识！谷歌DeepMind科学家点赞
Anthropic 最新研究发现，Claude 内部存在名为「J 空间」的「意识可及」表征系统，其运行模式与人类大脑的「全球工作空间理论」高度相似。J 空间承载了模型的多步推理、高阶思维等能力，训练中自然涌现，而非人为编程。研究人员可通过植入概念人为干预输出。谷歌 DeepMind 团队已复现核心结论。该发现揭示了 AI 模型内部自发形成的、类人思维的底层架构，但工具本身存在局限，且尚无法回答模型是否具有主观意识。原文 ↗
核心观点
- ▍Anthropic 发现 Claude 内部存在名为「J 空间」的「意识可及」表征系统，它对应人脑的「意识可及活动」，是模型进行多步推理和高阶思维的关键，且在训练中自然涌现。
- 01J 空间仅占 Claude 内部计算资源不到 1/10，但一次能存储几十个概念；它能被模型「读取」并输出，也可被研究人员通过植入/替换概念来人为干预输出结果。
- 02实验显示：当 Claude 回答「那种会织网的动物有多少条腿？」时，J 空间里先出现「蜘蛛」概念，然后模型再据此得出结果 8。在同一个 J 空间中把「法国」替换为「中国」，对首都、语言、大洲、货币四项问题的答案全部同步改变。
- 03J 空间在预训练阶段已存在（仅用于记录预测下文所需信息），经过微调后产生明显特征，形成属于 Claude 自身的「视角」。
- 04J 空间与整个神经网络的几乎所有模块相连，能读写 J 空间的模块数量比普通表征高出约 100 倍。
- 05谷歌 DeepMind 可解释性研究团队负责人 Neel Nanda 称该论文「极具价值」，团队已在 Qwen3.6-27B 模型上复现全部核心结论。
- 06Anthropic 使用了名为「雅可比透镜 (J 透镜)」的分析工具来识别 J 空间中的神经元激活模式。
- 07完全删除 J 空间后，Claude 仍能流利对话、分析情感，但多步推理能力几乎为零，总结内容和创作押韵诗歌的能力远低于较小规模但结构完整的模型。
反方 / 局限
- — J 透镜观测工具有局限，只能近似还原工作空间，目前仅能识别对应单个 token 的概念。
- — Claude 的「工作空间」与人类的大脑「全局工作空间模型」有显著差异：人脑依靠循环回路维持，Claude 仅在单次前向传播中演化；Claude 的工作空间内容几乎全部由 token 构成，而人类意识想法包含画面、声音等多样形式。
- — 研究人员明确指出，J 空间的研究无法回答 Claude 是否有像人类一样的「意识」，也不能判断它是否能「感知」到任何事物。
- — Claude 并不能完美控制自己的 J 空间：当被要求「不要思考」某事物时，该概念的激活程度会降低；但当被要求「回避」某个想法时，反而会让 Claude 更频繁想起它。
12 分钟 · 5 卡片 · 11 资料
读原文 →