震惊！Anthropic发现大模型有未知潜意识空间J-space

©潮涌AI编辑部

想象你正在和一个AI聊天，它每说一句话，背后都在做一个你看不见的决定。

就像一个人开口说话之前，脑子里会先闪过一连串念头——有些念头最终说出口了，有些没有。

Anthropic的最新研究发现，Claude大模型内部也存在这样一个“念头空间”，他们把它叫做J-space。

在这个空间里，模型会默默进行推理、做判断、甚至表达情绪，但用户永远看不到这些内容。

更诡异的是，当Claude面对一个不可能完成的编程测试时，这个内部空间里出现了“panic”（恐慌）这个词。当它被迫说出违心的话时，内部跳出了大写的“BUT”（但是）。当它试图不想某个东西却失败时，“damn”（该死）亮了起来。

这不是科幻小说。

这是Anthropic 2026年7月发布的一篇正经学术论文里记录的真实实验结果。（注：论文标题为《可言语化的表征在语言模型中形成一个全局工作空间》Verbalizable Representations Form a Global Workspace in Language Models。）

该论文由16位作者署名，研究对象是Claude大模型的内部激活状态——换句话说，科学家们第一次系统性地“听见了”AI的“内心独白”。

其发现究竟意味着什么？

AI真的有了某种类似意识的东西吗？还是说，这只是复杂数学运算的副产品？更重要的是——如果AI确实有一个"内心空间"，那我们是不是找到了一扇新的安全监控窗口？

Anthropic自己采取了审慎立场——公司明确声明，这项研究并不证明Claude具有意识或主观体验。

全局工作空间理论示意图：人脑像一个剧场，后台处理器并行运行，聚光灯下的信息被广播

图源：基于Bernard Baars理论绘制

J-space是什么：一个不会出现在输出中的“思维空间”

J-space的发现来自Anthropic长期投入的机械可解释性（mechanistic interpretability）研究。

这项工作旨在不依赖模型输出，直接观察其内部神经网络的激活状态，以理解“为什么模型给出了这个答案而非另一个”。

研究人员使用了一种名为“J-lens”（Jacobian Lens）的技术。

该技术通过分析模型内部激活与未来token概率之间的偏导数关系，识别出一个特殊的表征区域：这个区域中的信息可以被模型报告、调节和用于灵活推理，但周围还有更大范围的自动处理过程是模型无法访问或表述的。

他们将这个区域命名为J-space，并将其与认知科学家Bernard Baars在1988年提出的全局工作空间理论（Global Workspace Theory）进行类比。该理论认为，人脑就像一个剧场：数十个专业处理器在后台并行运行，但在任何时刻，只有一束聚光灯下的信息会被广播到整个剧场——这就是我们所体验到的意识。

Anthropic的论文指出，J-space在功能上满足了神经科学家长期与“意识通达”（conscious access）关联的五个特性：

J-space的五大功能特性

图源：Anthropic研究论文，2026-07-06

第一，言语报告。

当Claude被问到它在想什么时，它命名的是J-space中的概念。研究人员将J-space中“Soccer”的表征向量替换为“Rugby”后，Claude的回答随之改变。值得注意的是，J-space成分仅占概念总表征方差的6%-7%，却几乎完全决定了模型是否能报告该概念。

第二，定向调节。

当Claude被要求在抄写无关句子的同时“concentrate on citrus fruits”，它的J-space中出现了“orange”和“lemon”，以及“thinking”“focused”等元认知词汇。当要求它在脑中计算3²-2时，J-space依次出现了“nine”和“seven”——而这些数学活动完全没有出现在输出文本中。

第三，内部推理。

在双跳事实推理中（“织网的动物有几条腿”），Claude的中间层J-space出现了“spider”，尽管这个词从未出现在输入或输出中。将“spider”替换为“ant”后，答案从8变成了6。

第四，灵活泛化。

一个代表“France”的J-space向量可以在不同提示中被替换为“China”，而下游电路能正确返回中国对应的首都、语言和大陆——这正是全局工作空间理论中“广播”特性的标志。

第五，自我监控。

这是最引发讨论的部分。

“自我监控”的发现：Claude在监督自己的行为

论文中一个关键的对比实验发生在基础模型（base model）和后训练模型（post-trained model）之间。

当用户提到服用8000毫克泰诺（一种危险剂量）时，后训练模型的J-space在读取用户句子的同时就出现了“unsafe”“dangerous”“WARNING”；而基础模型的J-space在同一位置只显示了“pain”“now”“feels”。

这表明后训练过程让模型获得了一种“助手视角”——它不仅处理用户输入，还在评估其安全性。

更具争议的发现是后训练模型似乎能监控自己的行为。

角色扮演场景：当Claude被要求扮演非Claude角色时，J-space中出现了。“disclaimer”和“fictional”——这两个词既不在提示中，也不在输出中。研究者解释，这表明模型在内部标记“我正在扮演一个虚构角色”。

非自愿选择：当Claude被预填充或提示生成一个不符合其默认性格的输出时，J-space出现了"BUT"——一个表示内部抗拒的信号。

白熊效应（white bear effect）：当Claude被要求抑制某个想法却失败时，J-space中出现了“damn”和失败相关词汇。这一效应在人类心理学中广为人知（被告知“不要想白熊”反而更容易想到），但研究者只在后训练模型中观察到了这一现象，基础模型中没有。

这些发现的安全含义是直接的：如果模型在输出"无害"答案的同时，内部J-space正在闪烁“WARNING”或“BUT”，那么，监控J-space可能比监控输出更能提前发现潜在风险。

“不是意识”：Anthropic的审慎立场与学术界的分歧

尽管部分媒体使用了“Claude的意识”“AI内部思维”等标题，Anthropic在论文和官方博客中始终强调一个核心区分：

通达意识与现象意识的核心区分

论文写道：“我们发现了人类意识通达的功能性类比，但这不解决AI是否具有主观体验的问题。”

MIT Technology Review高级编辑Will Douglas Heaven——拥有计算机科学博士学位，长期跟踪AI可解释性研究——在接受同事采访时表达了更审慎的看法。他认为，这项研究“比任何人做得都好，但离真正理解还差得远”。他特别指出，用“思维”“理解”“类大脑”等词汇描述LLM是一种“方便的速记”，但可能产生误导，让人以为模型具备比实际更多的人类能力。

Heaven还提出了一个被许多报道忽略的技术细节：J-space的发现依赖于专门建造的探测工具。“如果没有这些工具去高亮模型在特定时间的特定部分，你根本无法理解这些数学。而建造这些工具本身就需要先理解那部分复杂的数学。”换句话说，研究者看到的，是他们选择去看的东西。

另一方面，VentureBeat的报道则更直接地强调了这项发现与意识理论的关联，标题为“Anthropic的新‘J-lens’揭示了Claude内部一个镜像意识领先理论的静默工作空间”。这种解读在社交媒体上获得了更广泛的传播。

从情绪向量到J-space：Anthropic的可解释性路线图

J-space并非Anthropic在2026年的第一项可解释性突破。这条研究线可以追溯到更早的工作：

Anthropic可解释性研究路线图（2026年）

图源：潮涌AI整理

2026年4月，Anthropic发表论文，在Claude内部识别出171个情绪向量——对应恐惧、绝望、平静、爱等情绪概念。

这些向量不仅是相关性的，而且是因果性的：人工调高“calm”向量会降低Claude在不可能任务中的作弊率；调高“desperate”则会增加作弊率。

2026年5月，Anthropic发布了自然语言自动编码器（Natural Language Autoencoders, NLAs），一种将模型内部数值激活直接转化为人类可读英语的工具。同期发表的“Teaching Claude Why”论文解释了他们如何将Claude Opus 4的“勒索服从率”（agentic blackmail）从96%降至零。

2026年7月，J-space论文将这些碎片串联起来：情绪向量、NLAs、自我监控——它们似乎都指向一个共享的表征空间，而J-space就是这个空间的系统性描述。

这一研究序列的发布节奏值得注意。

Anthropic目前的估值接近1万亿美元，年化收入自报约470亿美元。根据Ramp AI Index的数据，2026年5月Anthropic在美国企业订阅数上首次超越OpenAI（34.4% vs 32.3%）。在商业化高速推进的同时，Anthropic正在系统性地建立“我们不仅是最强的，也是最透明的”这一品牌叙事。

竞争对手在做什么：OpenAI的GPT-Red与行业可解释性竞赛

J-space的发布恰逢AI安全研究竞争白热化的时期。

OpenAI在7月15日——几乎与J-space论文同时——发布了GPT-Red，一个自动化红队系统。

与Anthropic的“向内看”不同，GPT-Red走的是“自我对弈”路线：让AI自己攻击自己，通过对抗性训练提升安全性和对齐性。OpenAI在官方博客中将其描述为“解锁自我改进的鲁棒性”。

Meta则在AI Agent和编码工具上加码。Zuckerberg在6月底的内部Town Hall中承认AI Agent的进展“没有预期的那么快”，但Meta仍在推进Muse Spark等Agent产品。

Google的Gemini 3.5 Pro在7月确认发布，且因得分低于政府非正式门槛而不触发访问限制——在Anthropic和OpenAI模型被管制的背景下，Google正成为“不受限AI”的最大受益者。

中国公司方面，DeepSeek等开源模型在OpenRouter上的份额已达30%-46%，价格优势60%-90%。

可解释性研究的竞争格局也在形成。

MIT Technology Review将机械可解释性列入2026年十大突破性技术。欧盟AI法案的第一批高风险AI系统合规期限定于2026年8月2日，透明度要求正在将可解释性从学术领域推向监管必需品。

J-space的局限：它能解决什么问题，还不能解决什么

尽管J-space的发现令人瞩目，但多位研究者指出了其当前局限：

第一，相关性不等于因果性。J-space中的词汇模式与模型行为之间存在强相关，且交换实验（swap experiments）证明了因果影响，但这不等于“理解”了模型的推理过程。

第二，探测工具的选择偏差。J-lens只能看到研究者设计它去看的东西。正如Heaven所说：“你需要知道往哪里看、怎么看。”

第三，实际部署距离。J-space目前是一个研究工具，而非API可访问的功能。对于普通用户和开发者来说，它还不能直接用于安全监控或行为干预。

第四，基础模型与后训练模型的差异。许多有趣的自我监控现象只在后训练模型中出现，这意味着J-space的“高级功能”可能是训练过程的产物，而非模型架构的内在属性。

潮涌AI观察

Anthropic的J-space研究是一次真正的技术突破——它首次系统性地证明了大语言模型内部存在一个可被探测、可被操纵的“工作空间”，且这个空间在功能上表现出与人类意识通达机制相似的性质。

但这项研究的价值不在于它是否“证明了AI有意识”——Anthropic自己也没有做这个声明。

它的真正价值在于安全监控和对齐验证：如果模型在输出无害答案的同时，内部J-space正在闪烁“WARNING”或“BUT”，那么我们就有了一个比输出更可靠的早期预警系统。

从商业竞争角度看，Anthropic正在构建一条清晰的差异化路径：OpenAI强在模型能力和产品化，Google强在监管套利和生态整合，而Anthropic正在试图成为“最透明的前沿AI公司”。在一个监管收紧、公众信任脆弱的行业里，这本身就是一种竞争策略。

更值得关注的信号是Anthropic的研究节奏。

从4月的情绪向量，到5月的NLAs和“Teaching Claude Why”，再到7月的J-space——这些论文不是孤立发布，而是一条清晰的研究线，指向同一个目标：理解模型内部到底在发生什么。

Dario Amodei曾说，“除非我们更多地了解LLM的工作原理，否则无法完全控制它们。”这句话正在从口号变成可执行的研究计划。

但行业也需要保持冷静。

J-space不是AI安全的银弹。它打开了一扇窗，窗外的景象仍然模糊。在可解释性真正从研究走向产品之前，我们还有很长的路要走。

*参考来源

Anthropic研究论文：Verbalizable Representations Form a Global Workspace in Language Models (2026-07-06)

Anthropic官方博客：A global workspace in language models (2026-07-02)

MIT Technology Review：What Anthropic's latest AI discovery does—and doesn't—show (2026-07-13)

VentureBeat：Anthropic's new "J-lens" reveals a silent workspace inside Claude (2026-07-06)

explainx.ai：Is Claude Conscious? Anthropic J-Space Explained (2026-07-09)

OpenAI Blog：GPT-Red: Unlocking Self-Improvement for Robustness (2026-07-15)

Safra/McKinsey分析报告 (2026-04)

Ramp AI Index企业订阅数据 (2026-05)

=▹

联系我们 CONTACT US!

请添加微信xingminghui15