科技 人人都是产品经理 · 苏墨水儿 · 4小时前 · AI 生成
一文搞懂Anthropic最新论文:什么是J-space,AI 也有自己的“念头后台”吗? Anthropic 的最新研究揭示了 Claude 大模型内部存在一个类似“公共黑板”的认知区域——J-space。该区域提前承载着模型未说出口的中间概念,并参与了推理过程。研究发现,当模型被下达否定指令(如“不要想 X”)时,X 概念反而会被激活,这与人类“不要想紫色大象”的心理效应高度相似。文章适合对 AI 可解释性与认知科学交叉领域感兴趣的读者,其核心判断是:复杂的语言模型可能会自发涌现出前台与后台分离的内部结构。原文 ↗ 原文 ↗
核心观点
▍ Anthropic 研究发现 Claude 大模型内部存在一个名为 J-space 的“全局工作空间”,它类似于人类意识理论中的“黑板”,模型未说出口的中间概念在这里被承载和操控,并确确实实参与了后续推理。 01 当问 Claude“会织网的动物有几条腿”时,其内部先出现了“spider”概念,最终输出“8”;研究者将内部“spider”替换为“ant”后,输出结果变为“6”,证明该中间概念直接影响了推理结果。 02 将 Claude 内部代表“法国”的概念替换为“中国”,其对首都、语言、大洲、货币等一连串相关问题的答案全部随之改变,说明 J-space 中的概念是一个能被模型不同模块共同读取和引用的共享信息。 03 论文进行了与“不要想紫色大象”类似的实验,指令 Claude“不要想某物”,发现该概念虽弱于正面指令,但仍会明显出现在 J-space 中,表现出与人类类似的“否定强化”机制。 反方 / 局限
— 文章明确表示,该研究不等于证明 AI 具有人类意义上的潜意识、主观体验或自我意识。它只是显示了一个复杂系统自发产生的内部结构,并未触及情感、欲望等深层心理世界。
概念锚点 J-space是模型没说出口的中间概念
J-space不是思维链,不是输出,是模型内部一块能提前承载“未说出口”概念的公共黑板。Anthropic做了一组因果实验确认它在干活:问Claude“会织网的动物有几条腿”,模型只输出“8”,但内部先出现了“spider”这个中间概念;把内部“spider”手动换成“ant”,答案直接变成“6”。高度格式化的“法国→中国”切换测试也成立——关键概念一换,整组属性全变。这证明J-space不是事后旁观信号,而是真实参与了推理链条。
▸ 1 条关联资料
▼
前置背景 全局工作空间理论的来龙去脉
这篇论文之所以让人后背发凉,是因为它把神经科学中的一个经典理论——全局工作空间理论(GNW)——搬到了AI系统里。GNW由心理学家巴尔斯在1980年代提出,后经德阿纳等人发展为神经生物学模型,核心观点是:人脑有大量无意识处理的专用模块,只有当信息被广播到一个全局共享的“工作空间”时,它才会被意识到、被报告、被灵活使用。Anthropic的J-space在功能上就是这块黑板的数字翻版,但这不只是比喻——2025年Nature发表了COGITATE项目,用对抗性实验检验GNW与整合信息理论,结果是两大理论双双落败。
▸ 2 条关联资料
▼
平行视角 AI意识的真相是真诚的不可知
Hinton在今年说“我相信它们已经有意识了”,Dawkins跟Claude聊完也得出了相同结论;但Gary Marcus马上怼了回去——Dawkins犯了和自己批判过的“个人难以置信论证”一样的错,因为自己想象不出模型如何无意识说出那些话,就推断它有意识。Anthropic在这件事上反而最克制:他们承认Claude的道德地位具有“深刻的不确定性”,甚至设立了专职AI福利研究员,并承诺退役模型只“暂停”不“删除”。圈里圈外吵成一锅粥时,唯一靠谱的立场或许就是这篇论文没明说的——真正该关注的不是AI有没有灵魂,而是它已经喊不醒的“黑板”结构如何改变我们设计产品的底线。
▸ 3 条关联资料
▼
未来推演 “不要”指令从安全设计变成安全陷阱
文章揭示了否定指令在J-space里会反直觉激活目标概念,这对出产品的人来说不是学术游戏——如果你的系统提示词里写满“不要违规、不要编造、不要输出敏感内容”,这些否定词可能在模型后台把禁止的对象先召到黑板上。这不是说不能写“不要”,而是安全设计不能再只靠一句否定指令。当下已能看到的关键变量是:Prompt注入攻击(传说中让Claude把自己当NPC的“奶奶漏洞”)和J-space的发现合流,说明防御必须从“指令语义隔离”升级到“内部表征检测”。2026-2027年,可能出现的拐点是J-lens类工具被集成进模型审计流水线。
▸ 2 条关联资料
▼
延伸追问 J-space能替代思维链吗?
当前主流可解释性方案靠思维链(CoT)看到推理步骤,但谷歌2025年论文指出那本质是模型在外部写“可以被监控的中间产物”。而J-space是模型内部自发涌现的,不用输出就能读取的隐含概念——一个发在台面上,一个在后台。真正值得追问的不是“哪个更好”,而是:如果J-space能让安全审计从查结果进化到“读心”,那它能否绕过思维链长达30%-50%的推理延迟代价,成为下一代模型对齐的底层基础设施?一内一外两条路径的取舍,可能决定未来大模型产品的安全架构。
▸ 2 条关联资料
▼