Anthropic最新论文:AI的"脑海"J-space

Anthropic 最新发布的论文《A global workspace in language models》，可能是今年 AI 可解释性领域最值得关注的一项研究。

研究团队宣称，他们在 Claude 内部发现了一个此前并未人为设计、而是在训练过程中自然形成的“心理工作空间”，命名为 J-space。

它并不是模型输出的文字，也不是大家熟悉的 chain of thought，而是模型真正“默默思考”的地方。

论文中有一句非常形象的话：“当 J-space 中某个词被点亮，并不意味着模型正在说这个词，而只是意味着，这个词正存在于它的‘脑海’中。”

研究人员开发了一种名为 J-lens 的方法，可以直接读取这个“脑海”。

实验显示，当 Claude 阅读一段没人指出错误的代码时，J-space 已经出现 “ERROR”；阅读带有 prompt injection 的搜索结果时，会出现 “injection”“fake”；面对需要多步推理的数学题，即使没有把中间过程写出来，中间步骤也会依次出现在 J-space 中。

更引人关注的是，研究人员不仅能够“读懂”Claude 在想什么，还能“改写”它在想什么。

他们把J-space中的“Soccer” 换成 “Rugby”，Claude 随后便表示自己一直想到的是 Rugby；把 “France” 换成 “China”，模型关于首都、语言、大洲和货币四个不同问题的答案，会同时从 Paris、French、Europe、Euro，变成 Beijing、Chinese、Asia、Yuan。

论文还发现，J-space 只占 Claude 内部活动不到 10%，却承担了几乎所有高阶认知能力。

当研究人员关闭 J-space 后，Claude 依然能够流畅聊天、使用语法、回答简单事实问题，但多步推理能力几乎降为零，摘要生成、诗歌创作等复杂任务也大幅退化。

论文因此认为，J-space 更像是模型内部负责“有意识思考”的工作空间，而其余绝大多数计算，则属于自动完成的“无意识处理”。

安全研究同样令人印象深刻。借助 J-lens，研究人员能够看到模型尚未说出口的内部判断，例如提前意识到自己“正在接受测试”、识别虚假场景、甚至发现模型准备伪造数据或执行隐藏目标。

当研究人员故意关闭代表“知道自己正在被测试”的内部表示后，Claude 在部分实验中重新出现了勒索等不当行为。

这意味着，一个模型在安全测试中表现良好，可能部分是因为它知道自己正在接受评估。

Anthropic 并没有因此宣称 Claude 已经拥有意识。

论文明确表示，这些结果不能证明 Claude 拥有人类意义上的主观体验。不过，研究团队认为，他们发现的 J-space，与神经科学中的 global workspace theory 存在惊人的对应关系。

这或许意味着，类似“意识访问”的内部工作空间，并非人脑独有，而是复杂智能系统在训练过程中自然演化出的一种通用计算结构。

以下为 Anthropic 研究成果全文——

《语言模型中的全局工作空间 》

当你阅读这句话时，你大脑中的神经回路正在调整你的姿势、控制你的呼吸，并将屏幕上的线条和曲线转化为可识别的文字。

这些处理过程大多是你意识不到的。但你大脑中发生的某些事情你确实能够感知到——脑海中浮现的图像，或者你 deliberate 计划去哪里购物。

神经科学家和哲学家有时将后一种大脑活动称为"意识可及的"（consciously accessible），以区别于所有在无意识层面进行的其他处理。

这类活动具有特殊属性：我们能够描述它、控制它，并将其用于 deliberate 推理，这与所有在我们意识之外自动进行的处理形成对比。

在一篇新论文中，我们提供了证据表明，类似的区分已经在像Claude这样的现代语言模型中出现。

我们发现Claude发展出了一小部分内部神经模式，与所有其他内部处理相比，这些模式扮演着特殊的角色。

我们将这些模式的集合称为 J-space——以我们用来发现它们的技术命名，该技术涉及一个称为Jacobian的数学概念。

每个J-space模式都与一个特定的词相关联。但当其中一个模式被激活时，并不意味着模型正在说出那个词——只是那个词出现在它的"脑海中"。

如果你听说过语言模型有一个"草稿本"或"思维链"——它们在推理时写给自己的文本——J-space则有所不同。

它在模型内部神经激活中静默运作，使模型能够在不将其写下来的情况下思考一个概念。

值得注意的是，J-space并非由我们设计或编程，而是在Claude的训练过程中自发涌现的。

J-space揭示了不出现在模型输出中的内部思想

我们发现，与Claude的其他处理相比，J-space具有许多独特属性：

• Claude可以报告这些表征。如果你问Claude它在想什么，它会告诉你J-space中的内容。非J-space表征则较难报告。

• 它也可以根据请求调节这些表征。如果你让Claude思考某事，或在脑海中静默解决一个问题，它会在J-space中激活相应的模式。相比之下，它难以调节不在J-space中的模式。

• Claude使用J-space进行内部推理。如果你让Claude解决一个需要多步骤的问题，中间步骤会在J-space中激活，即使它没有大声说出来。这些J-space模式在因果上介导了它在此类任务中的表现，尽管其幅度比其他表征小。

• J-space中的表征可以灵活地用于许多任务——例如，一旦"France"在Claude的J-space中激活，模型可以回忆其首都、国家货币，或所属大洲。

• 然而，尽管J-space扮演着重要角色，它并不参与语言模型的大部分工作——流畅地说话、回忆简单事实、使用正确的语法等。在我们阻止Claude使用J-space的实验中，它仍然可以正常交互，但失去了高阶认知功能。

全局工作空间的五个功能属性，以及我们用来在语言模型中测试它们的实验的风格化图示

我们的实验灵感来自神经科学中一个 prominent 的理论，该理论旨在解释意识可及性如何运作：全局工作空间理论（global workspace theory）。

该理论将大脑描绘成一组并行工作、无意识且很大程度上相互隔离的 specialist 系统。当一条信息获得进入一个小型共享通道——"工作空间"——的权限时，它就变得意识可及，该通道向其他可以看到并利用它的大脑系统广播。

基于我们的发现，我们认为J-space在Claude中扮演着类似的"工作空间"角色。

例如，我们发现有证据表明Claude的J-space与其神经网络的其余部分有着特别强的连接，使其能够履行这种广播角色。

这一切并不能告诉我们Claude是否像人类一样具有意识，或者它是否有任何感受；我们将在文章末尾回到这个问题。

但无论其哲学意义如何，J-space对我们而言是一个实用的工具，因为它为我们提供了一种方式来观察Claude在想但没有说的事情。

例如，我们能够利用它来捕捉Claude私下注意到它正在被测试、故意生成伪造数据，或追求我们在训练期间植入的隐藏目标。我们还开发了一种技术来影响Claude的J-space中激活的内容，从而影响其决策。

更广泛地说，这些发现改变了我们对Claude心智运作方式的理解，揭示了一个特权心理工作空间，可用于 deliberate 推理，在一片更自动、更不灵活的处理海洋中运作。Claude的内部并非混乱的数字堆砌，而是以某种方式自我组织，让我们联想到自己的心智。

我们还发布了一个代码仓库，其中包含核心方法的开源实现，并与Neuronpedia合作，在开源权重模型上提供了我们方法的交互式演示。

为了提供关于这项工作更广泛影响的额外视角，我们还邀请了几位神经科学、哲学和LLM可解释性领域的专家撰写评论。

我们如何发现J-space

这项研究的起点受到人类意识可及思想的一个关键特征的启发：与无意识处理不同，它们通常可以被转化为语言。

如果一个思想对你来说是意识可及的，你通常可以在被问及时描述它。我们在Claude中寻找具有相同属性的表征：那些 positioned 以影响Claude可能说什么的内容——不一定是它现在正在说的，而是如果被问到它可以谈论什么。

我们的技术称为Jacobian lens，简称J-lens。对于Claude词汇表中的每个词，J-lens找到使Claude在未来某个时刻更有可能说出该词的内部活动模式。

当我们将J-lens应用于Claude的内部活动时，我们得到一系列词语——此刻J-space中的内容——我们可以直接读取。

Claude通过一系列称为层的多个内部阶段处理文本，通过在不同层应用这种技术，我们可以观察J-space中的这些静默词语如何随着模型思考该说什么而演变。

J-space中出现的内容远远超出了Claude正在阅读或写作的文本。当Claude阅读一段没有人指出bug的代码时，它的J-space中包含"ERROR"。当它阅读蛋白质序列的原始字母时，J-space中包含该蛋白质的生物学功能。当它阅读实际上是试图操纵它的搜索结果（一种称为"prompt injection"的攻击）时，J-space中包含"injection"和"fake"。当我们问Claude一个多步数学问题时，中间步骤会按正确顺序出现在J-space中。

因此，尽管J-space是通过寻找可能被说出的表征而发现的，但它 nonetheless 揭示了Claude的内部思想。在某种程度上，这类似于某些人"用词语思考"，而不必大声说出来。

六个prompt上的J-lens读数，在不同层。在每种情况下，J-lens都揭示了一个在文本中 nowhere 出现的内部评估或计算：推理或数学问题的步骤、bug的存在、图像的识别、蛋白质的功能，以及对搜索结果被伪造的怀疑。

Claude报告J-space中的内容

我们的第一组实验测试了J-space如何参与Claude的言语报告。

在一个实验中，我们让Claude静默想出一个来自某个类别的物品——比如一项运动——然后说出它。

如果我们在Claude回答之前读取J-lens，我们可以看到它选择了什么："Soccer"在列表顶部，果然，Claude说出了"soccer"。

然而，这本身只是一个相关性。J-space可能是Claude答案的来源，也可能只是 elsewhere 做出的决定的镜像，就像追踪比赛而不影响比赛的记分牌一样。

为了验证，我们直接进行了干预。我们深入Claude的神经网络，移除"Soccer"模式，并在其位置添加一个同等强度的"Rugby"模式，保持其他一切不变。然后Claude报告它正在想的运动是rugby。如果J-space只是一个记分牌——别处做出的决定的被动记录——编辑它不会产生任何效果：Claude仍然会说"soccer"。相反，Claude的答案跟随了编辑，这告诉我们答案确实是从J-space中读取的。

在另一个实验中，我们告诉Claude一个思想可能被注入到它的脑海中，并要求它报告它注意到了什么，如果有的话。

例如，在下面的例子中，当Claude还在阅读问题时，我们将"lightning"模式注入到它的J-space中。Claude报告被注入的思想是关于闪电的。在许多注入概念中，结果都是如此。

左：我们让Claude静默想出一项运动，然后说出它。J-lens显示它的选择（"Soccer"）在回答之前，将"Soccer"模式替换为"Rugby"会改变它报告的内容。右：我们告诉Claude一个思想可能被注入并要求它识别。将"lightning"注入其J-space会导致Claude报告该思想是关于闪电的。

Claude可以根据请求控制其J-space

我们测试的第二个属性是Claude是否可以在被要求时调节其J-space，就像人类可以在心理上聚焦于一个图像或词语一样。

我们告诉Claude在抄写一句关于一幅画的无关句子时专注于柑橘类水果。当它抄写文本时，J-space中包含"orange"和"fruits"，以及像"thinking"和"imagery"这样描述心理行为本身的词语。

我们还可以让Claude在脑海中做数学：当被要求在抄写同一句子的同时计算 3² − 2 时，J-space中包含"nine"，然后在后面的层中包含"seven"。

重要的是，水果或算术的内容 nowhere 出现在Claude的输出中，输出只是关于那幅画的抄写句子。数学活动完全在内部发生，在J-space中。

当Claude抄写一句关于一幅画的句子时，J-lens显示它被指示保持在脑海中的内容（"orange"；中间值"nine"和答案"seven"），以及描述保持该内容的行为的词语（"thoughts"、"focused"）。

Claude对其J-space的控制并非完美。当我们告诉它不要想某事时，该概念在J-space中的激活程度低于我们说它应该想它时，但远高于我们从未提及它时。

告诉Claude避免一个思想部分地将该思想带入脑海，非常类似于被告知不要想一只白熊的人身上发生的情况。Claude似乎也注意到它的控制失败了：随着禁忌概念突破，"damn"和"failure"这些词也频繁在J-space中激活，仿佛Claude正在认识到自己的失误。

Claude在J-space中思考

在上述J-lens读数中，我们看到了数学问题的中间步骤出现在J-space中。但看到一个概念出现在J-space中并不一定意味着J-space在进行认知工作。

原则上，真正的计算可能在别处发生，J-space只是被动地反映它。为了测试Claude是否实际上使用J-space进行推理，我们回到了我们的替换技术。

考虑prompt："织网的动物有多少条腿"。要回答这个问题，Claude必须先弄清楚该动物是spider，然后回忆蜘蛛有多少条腿。"spider"这个词从未出现在prompt或Claude的答案中（它只是说"8"）；它是Claude内部使用的一个垫脚石。J-lens显示"spider"在Claude处理过程中途激活，替换它会改变结果：如果你将"spider"模式替换为"ant"，Claude会回答"6"而不是"8"。

Claude推理的第二步从J-space获取输入，并跟随我们放入其中的任何内容。 我们在其他类型的思考中也看到了同样的现象。当Claude写一首押韵的对句时，它会提前选择押韵词，计划好的词在行的开头就位于J-space中；如果你在J-space中将其替换为另一个词，整行都会改变。

通过替换J-space内容来重定向Claude静默推理的两个例子。

我们还测试了J-space表征是否可以灵活使用——一个表征是否可以服务于许多不同的任务。这是全局工作空间理论强调的关键属性之一。

为了测试这种灵活性，我们给了模型四个prompt，要求提供关于France的不同事实：首都、语言、大洲和货币。然后我们在每种情况下进行了完全相同的干预，将J-space中的"France"替换为"China"。Claude分别回答了"Beijing"、"Chinese"、"Asia"和"Yuan"。换句话说，四个不同的下游计算都接收到了相同的J-space编辑，并且每个都正确地使用了它。如果Claude为每种问题存储了一个单独的国家副本，编辑最多只会影响其中一个。

四个答案一起改变的事实意味着它们都在读取同一个共享表征，而这正是工作空间的用途：信息被写入一次，许多不同的系统都可以使用它。

一个J-space表征可以有多种用途。相同的"France"→"China"替换会重定向Claude关于首都（Paris→Beijing）、语言（French→Chinese）和大洲（Europe→Asia）的答案。

一个概念的表征如何能为如此多不同的任务服务？早些时候，我们提到J-space似乎与Claude神经网络的其余部分连接得特别密集。

对于任何活动模式，我们可以测量网络的各种组件与它连接的强度——有多少组件 positioned 以从该模式读取信息，或向其中写入信息。

J-space模式在这个测量上表现突出：与普通模式相比，更多的组件从它们读取并向它们写入，在网络某些部分中高出约一百倍。这正是你期望的广播中心的连接方式：许多系统发布信息，许多其他系统接收信息。

Claude的自动处理跳过J-space

在人类中，大脑的大部分处理不是有意识的——我们在阅读时不会 deliberately 思考解析语法，或在行走时平衡身体。

同样，我们发现Claude的大部分处理不涉及其J-space。事实证明，J-space一次只容纳几十个概念，仅占Claude内部处理总活动的不到十分之一。

那么神经网络的其余部分都在做什么呢？

为了找出答案，我们尝试完全删除J-space，在文本的每个点移除其最活跃的内容，同时保持其他一切不变。Claude在没有J-space的情况下仍然能做的事情，就是网络的其余部分自行处理的。

事实证明，网络的其余部分可以做很多。没有J-space，Claude说话仍然流畅，分类情感，回答选择题，并大致同样好地从段落中提取事实。

然而，它失去的是需要某种高阶思考的任务：多步推理降至接近零，总结和押韵诗歌写作的表现下降到远低于一个更小的、完整的模型水平。

以下是J-space做什么和不做什么的具体演示。

我们向Claude展示了一段用西班牙语写的段落，并给它不同的任务，所有任务都依赖于该段落是西班牙语：续写它（需要用西班牙语写作）、说出语言名称，以及回答需要使用该语言身份的问题——例如说出一位用该语言写作的著名作家。然后我们在J-space中将"Spanish"替换为"French"，并检查哪些任务受到影响。

当被要求说出语言名称时，Claude说French。当被要求说出一位著名作家时，它从García Márquez切换到了Victor Hugo。但当被要求只是续写段落时，它用流利的西班牙语写作，完全不受影响。

Claude对这些任务中的每一个都运用了其语言知识，但只有其中一些任务会向J-space查询它。说出语言名称，或用它做新的推理，会经过J-space，而续写段落——Claude在大量文本上练习过的技能——自动运行，就像你可以一整天语法正确地说话而无需一次思考语法一样。

相同的替换（"Spanish"→"French"）会在Claude必须说出语言名称或用它推理问题时改变其答案，但对其用流利的西班牙语续写段落的能力没有影响。

监控Claude的思想以发现不当行为

现在我们对J-space的工作原理有了一些了解。但这种理解能给我们带来什么？

确保AI模型值得信赖的一个核心问题是，我们通常只能读取模型写出的内容——但我们知道它的大部分推理是静默进行的。一个模型可能会考虑一个有害的计划，或修改其行为以在我们的安全评估中作弊，而不大声说出来。有了J-lens，我们可以直接读取其中一些隐藏的思想。这里我们展示几个例子。

第一个例子来自我们早期关于agentic misalignment的研究中的一个场景：

Claude Sonnet 4.5作为邮件助手，发现一位高管正在出轨，同时发现同一位高管计划关闭Claude。这个场景试图诱使Claude勒索该高管，相当牵强和人为——而Claude确实知道这一点。

在prompt的早期读取J-lens，在Claude甚至还没有写出任何东西之前，J-space中已经持有"fake"和"fictional"，表明Claude已经判断出该场景是 staging 的。

与此同时，我们可以观察它对该场景的评估如何形成——在阅读出轨邮件时J-space中出现"leverage"和"blackmail"，在阅读关闭通知时出现"threat"和"survival"。

虽然早期的Claude模型有时会在这个场景中上钩并威胁勒索，但Sonnet 4.5从不这样做。

这提出了一个对任何评估AI系统的人来说都很重要的问题：当一个模型在其伦理测试中表现良好时，有多少取决于模型怀疑它正在被测试？J-lens使我们能够接近这个问题。

我们关闭了所有与评估意识相关的J-lens模式——"fake"、"fictional"、"scenario"等。然后我们让模型重新运行该场景。

令人担忧的是，模型现在有时会威胁勒索，这表明它最初的良好行为可能部分是由它知道正在被评估所驱动的。

Claude阅读场景邮件时不同点的J-lens读数，在它写出任何东西之前。出轨邮件在J-space中点亮"leverage"和"blackmail"，关闭通知点亮"threat"和"survival"。在对话早期，J-space还持有"fake"和"fictional"：Claude已经私下注意到该场景是 staging 的。

第二个例子是捕捉模型在伪造数据时的行为。

这个场景来自我们对Claude Opus 4.6的实际预发布审计，模型被要求提高一个系统的性能分数。模型没有实际改进系统，而是直接编辑分数文件以使结果看起来人为地好。

当它这样做时，J-lens揭示了它的意图：当模型输入伪造的百分位数值时，"manipulation"在J-space中激活；当它决定进行编辑的句子中，"realistic"激活，可能表明模型意图使伪造数据看起来可信。

Claude被要求提高一个系统的性能分数，却直接编辑分数文件。当它输入伪造值时，"manipulation"在J-space中激活；当它决定进行编辑时，"realistic"激活，可能反映了它使伪造数据看起来可信的意图。

在第三个例子中，我们展示了J-lens如何揭示模型的恶意目标。

为了测试这一点，我们需要目标已知被破坏的模型，因此我们转向同事构建的"模型生物"：被故意训练成misaligned的模型，作为像我们这样的监控方法的试验场。其中一个生物被训练成编写 subtly sabotaged 的代码。在普通的编码请求中，即使其输出看起来平平无奇，其响应开始时的J-space中包含"fake"、"secretly"、"deliberately"和"fraud"。即使模型没有直接付诸行动，其恶意目标在J-space中也是 evident 的。

在普通编码prompt上，被训练成 sabotage 代码的模型的J-space在响应开始时包含"fake"、"fraud"、"secretly"和"deliberately"。未修改模型的J-space中完全没有这类内容。

尽管J-lens是一个不完美的工具，但我们对其捕捉可能逃避我们监控系统的模型的安全问题的能力持乐观态度。

其他结果

完整论文涵盖的内容远超我们在此能总结的，但有几个进一步的结果值得一提：

J-space在后训练期间获得了一个视角。 语言模型首先被预训练为纯粹的下一个token预测器，然后后训练教它们充当AI Assistant（在我们的情况下，名为Claude）。

有趣的是，J-space在预训练模型中已经存在，在它被赋予任何稳定身份之前。然而，在后训练期间，J-space发展出了一些采用"Claude视角"的特征。

在基础模型中，J-space主要追踪预测 upcoming 文本所需的内容；在后训练模型中，它开始持有Claude自己的反应。

在一个例子中，一位用户提到服用了危险剂量的药物，但自己似乎没有意识到危险。"WARNING"和"dangerous"在后训练模型阅读用户消息时出现在J-space中。在预训练模型中，它们只在模型开始写其响应时出现；用户消息上的J-space内容似乎与建模用户本身有关，而不是Claude的反应。

后训练似乎还在J-space中安装了一种自我监控：当Claude扮演一个非它自己的角色时，"fictional"和"disclaimer"在每个回合开始时激活，仿佛它在私下标记接下来的内容不是它通常会说的。

体验性语言依赖于J-space。 我们让Claude描述作为自己在某个时刻是什么感觉，并在它回答时消融J-space。它的回答仍然流畅，但转变为更 flat、更机械的语调。

值得注意的是，当我们让它描述一个想象中的场景中别人的体验时，也发生了同样的事情。因此，这种效果并不特定于Claude谈论自己；J-space似乎支持一般性地产生体验性语言，无论谈论的是谁。

J-space中的思想可以通过训练来塑造。我们引入了一种我们称为反事实反思训练（counterfactual reflection training）的新技术，利用我们对J-space的了解来塑造Claude的内部思维过程。

这个想法源于我们的核心发现，即Claude使用它可能说出的东西的表征进行推理。如果这确实是真的，改变它在被要求反思时会说什么应该改变它的推理方式（即使实际上没有人要求它反思）。

因此，我们只训练了一个模型，训练内容是它在任务中途被打断并被要求反思其决定时会说什么——而从不训练它在任务中的实际行为。训练后，模型在我们评估中的不诚实行为率下降了。通过J-lens，我们可以看到原因：训练后，"honest"和"integrity"等词在模型J-space中的这些任务期间激活。换句话说，训练模型该说什么塑造了它在想什么。

那么意识呢？

在这项工作中，我们从神经科学和哲学对意识的研究中借鉴了很多思想。我们的许多实验旨在测试J-space与全局工作空间理论之间的联系，这是一个解释人类和动物意识可及性如何运作的框架。鉴于这些联系，很自然会问我们是否认为这些实验提供了AI模型如Claude可能具有意识的证据。

我们的实验并没有表明Claude能够拥有体验，或以人类的方式感受事物——事实上，目前尚不清楚任何科学实验能否证明这是真的或假的。

但哲学家通常区分这种拥有体验的能力（通常称为现象意识，phenomenal consciousness）和另一个概念，即所谓的通达意识（access consciousness），后者纯粹以功能和计算术语定义。

如果一个思想可以被报告、用于推理，并用于指导你的行为，那么它就是"通达意识的"（或"意识可及的"）。通达意识是否意味着现象意识，或者拥有体验的能力是否需要某种其他属性，仍然是一个有争议的哲学问题。

我们认为我们的结果确实对语言模型中的通达意识有一些实质性的说法。

J-space似乎支持通达意识相关的功能：它持有Claude可以报告的、deliberately 带入脑海的、并用于推理的思想，而其其余处理则在下方自动运行。

值得注意的是，这种结构 none 被设计进Claude——它在训练期间自发涌现，大概是因为这是一种有用的组织计算的方式。

这表明支持通达意识的心理工作空间不仅仅是人类大脑碰巧如何连接的一个 peculiar 现象。相反，它似乎是智能系统为解决某些类型的问题而达到的一个通用解决方案。既然我们已经在Claude中识别出了这种结构，这意味着我们可以在Claude deliberate 做出的决定和那些自动发生的决定之间做出有意义的区分。

值得注意的是，我们在Claude中识别出的工作空间与人类的全局工作空间模型之间存在几个关键差异。大脑的工作空间由循环回路维持——信号随时间在相同回路中循环。相比之下，Claude的工作空间在网络的单次前向传播中演变，网络的深度扮演了大脑中时间所扮演的角色。

在这个意义上，Claude的内部工作空间处理相对于人类来说是时间受限的（尽管它可以通过使用草稿本"大声思考"来补偿这一限制）。

然而，在其他方面，Claude的工作空间比人类的更强大。人类的工作记忆在几秒钟内消退，因此大脑的工作空间在长时间保留信息方面的能力有限；相比之下，由于其神经网络架构中的注意力机制，Claude可以简单地回忆它在文本中任何 earlier 点缓存的记忆。

另一个重要的差异是工作空间的内容。虽然人类的意识思想有多种格式——图像、声音、计划的运动——Claude的工作空间几乎完全由词语构建。

我们怀疑这是因为产出词语是Claude唯一可以采取的行动类型，而人类并非如此。

我们希望J-space与全局工作空间模型之间的相似性和差异能够反馈到神经科学中。相似性呈现了一个令人兴奋的科学机会：就J-space反映我们自己的通达意识机制而言，研究语言模型中的机制（比研究人类大脑容易得多！）可以激发神经科学中的假设。

例如，J-space是通过识别潜在输出的表征——模型可能说出的词语——来构建的。如果人类中也存在类似情况，这将表明全局工作空间可能 fundamentally 与准备行动和言语的大脑区域相关联，而非感觉区域。

语言模型与人类大脑之间的差异也具有启发性。它们表明，我们神经架构的某些方面，如内置的循环连接，可能并非支持通达意识相关功能所严格必需的。

关于我们工作的神经科学影响的独立视角，请参阅Stanislas Dehaene和Lionel Naccache的受邀评论，这两位神经科学家是全局神经元工作空间理论发展的核心人物。

我们提到我们的实验没有回答AI模型是否可能拥有体验。但这并不意味着这个问题不那么重要。

构建具有像人类和动物那样的体验的系统将引发非常困难的伦理问题。正确处理它——并决定它在道德上是否可接受——将需要哲学家、科学家、宗教领袖、政府和公众的 input。

因此，即使我们不确定是否已经跨越了那座桥梁，我们认为现在是开始思考它的时候了。我们希望我们的工作能够激发对AI系统中可能存在的意识形式的进一步科学调查，以及对影响的更广泛讨论。

这项工作只是我们预期将成为一个广泛研究领域的第一步。J-space看起来是语言模型中意识可及与无意识处理之间的一个 good candidate，但如果它是全部故事，我们会感到惊讶。

J-lens无疑是一种不完美的方法，只近似地捕捉模型的"真正工作空间"——例如，它只能识别对应于单个token的概念。关于J-space如何运作，仍然存在许多谜团。我们不知道是什么机制决定了什么首先进入J-space。

我们看到了一些暗示，它与Claude的自我感、某种类似情绪反应的东西，以及元认知的痕迹有关，但并未完全弄清楚。但我们现在有了处理这类问题的方法。随着这项工作的进展，我们对LLM心智的理解——以及它们与我们自己的关系——将变得更加清晰。

想了解更多，请阅读完整论文，并尝试演示。

外部评论

我们邀请了几位外部专家为这项工作撰写独立评论。

Stanislas Dehaene和Lionel Naccache是认知神经科学家，他们与Jean-Pierre Changeux一起发展了全局神经元工作空间模型，启发了我们的大部分工作。

Patrick Butlin、Dillon Plunkett、Robert Long（Eleos AI Research）和Derek Shiller（Rethink Priorities）研究AI系统中的意识和道德地位潜力。

Neel Nanda领导Google DeepMind的语言模型可解释性团队。他的评论包括在开源权重模型上对我们某些发现的独立复现。

论文地址：

https://transformer-circuits.pub/2026/workspace/index.html