7.4
深览指数
科技虎嗅·潮涌AI··AI 生成
Anthropic发现大模型有未知潜意识空间J-space
Anthropic 在 2026 年 7 月发表论文，提出大语言模型内部存在一个可被探测的“J-space”工作空间，该空间在功能上（言语报告、定向调节、内部推理、灵活泛化、自我监控）与人类意识通达机制高度类比。研究通过 J-lens 技术观察到模型在输出无害答案时，内部会出现“WARNING”“BUT”等信号，为安全监控提供了新窗口。但 Anthropic 明确声明这不证明 AI 具有意识，且当前 J-space 仍是研究工具，距离实际部署尚远。本文适合关注 AI 对齐、可解释性或 AI 安全治理的读者，需要了解机械可解释性基本概念才能顺畅阅读。原文 ↗
核心观点
- ▍Anthropic 通过 J-lens 技术，在语言模型内部识别出一个名为 J-space 的共享表征空间，该空间在功能上满足人类意识通达的五个核心特性，但作者明确声明这不证明模型具有主观体验或意识。
- 01J-space 的五大功能特性：言语报告、定向调节、内部推理、灵活泛化、自我监控，每项都有具体的实验佐证，如替换“Soccer”为“Rugby”向量后模型回答随之改变。
- 02在用户提到“服用8000毫克泰诺”时，后训练模型的J-space出现“unsafe”“dangerous”“WARNING”，而基础模型仅显示“pain”“now”“feels”，表明后训练赋予模型“助手视角”的安全评估能力。
- 03当Claude被要求扮演非Claude角色时，J-space中出现“disclaimer”和“fictional”，表明模型在内部标记“我在扮演虚构角色”，这是一种自我监控行为。
- 04J-space论文是Anthropic 2026年可解释性研究序列的一部分，此前4月发现情绪向量，5月发布NLAs和“Teaching Claude Why”论文，共同指向系统性地理解模型内部机制。
- 05在商业竞争层面，Anthropic 正通过 J-space 构建“透明”品牌叙事，以区别于 OpenAI 的模型能力路线和 Google 的监管套利路线。
反方 / 局限
- — MIT Technology Review 编辑指出，J-space的发现依赖于专门建造的探测工具，研究者看到的是他们选择去看的东西，存在工具选择偏差。
- — J-space目前是一个研究工具，而非API可访问的功能，对于普通用户和开发者来说，还不能直接用于安全监控或行为干预。
- — 文章指出，许多有趣的自我监控现象只在后训练模型中出现，这意味着J-space的“高级功能”可能是训练过程的产物，而非模型架构的内在属性，其普适性存疑。
AnthropicJ-spaceJ-lens全局工作空间理论Bernard BaarsWill Douglas HeavenOpenAIGPT-RedGoogleMetaDeepSeekDario AmodeiMIT Technology ReviewVentureBeat欧盟AI法案自然语言自动编码器情绪向量意识通达白熊效应
15 分钟 · 4 卡片 · 7 资料
读原文 →