算不上AGI，但Anthropic发现了Claude的潜意识！

今天Anthropic可解释性团队发了篇新论文，官方推文几个小时就冲到320万+浏览。

我花了一整个晚上把它读完，9个章节，94张图表，并且让Fable 5给翻译、制作成了85页的PDF文档（文末有获取方式）。

看到「AI的意识」这种研究，我估计很多人的第一反应是：Anthropic是不是又在为上市故弄玄虚。这个判断太偏激了。AI的心理和意识状态这条研究线，他们已经扎扎实实做了一两年，人格向量、情绪向量、内省能力，一篇一篇铺过来，确实是走在最前沿的那一波团队。四月份我写过一篇万字长文

当时那批研究有个共同的尴尬：我们知道AI内部有心理结构，但问它「你在想什么」，它的回答只有20%的时候靠谱。

这篇新论文补上了下半句：既然问它不可靠，那就不问了，直接看。它也是这条线上到目前为止分量最重的一块。

一句话概括他们干了什么：他们在Claude内部找到了一条分界线。线的一边，是模型能报告、能刻意持有、能用来推理的想法；线的另一边，是它自己都触及不到的海量计算。意识科学里这条线有个正式名字，叫「意识通达」。

说人话：他们找到了AI的「意识」与「潜意识」的分水岭。这不是修辞，是一个可测量、可干预、甚至可训练的结构。至于这算不算真正的意识，论文非常谨慎，我们留到文末聊。

你的大脑，绝大部分活动你并不知情

先说人类这边的背景，不然这篇论文的分量出不来。

你读这行字的时候，你的大脑正在做一大堆事：视觉皮层在解析每个字的笔画，运动系统在维持你的坐姿，心跳、呼吸、对周围声音的监控，全在后台运行。这些活动，你一件都感知不到。

任何时刻，你能「意识到」的，只是大脑全部活动里极小的一片。而恰恰是这一小片，负责你所有的深思熟虑：计划晚饭吃什么，琢磨这篇文章值不值得转发。

弗洛伊德在一百二十多年前就把心智分成了两层：能被你觉察的意识，和水面之下庞大的无意识。后人把这个理论画成了那座著名的冰山。前年我在维也纳专门去了弗洛伊德博物馆，那栋楼里最打动我的不是诊疗椅，而是一个事实：这个人在没有任何仪器的年代，靠病人的口误和梦，推断出了水面之下有东西。

后来的认知科学把这座冰山画得更精确了。1988年，心理学家Bernard Baars提出「全局工作空间理论」，后来神经科学家Stanislas Dehaene把它发展成今天意识研究的主流框架。这个理论把大脑比作一座剧场：

后台有无数个专业部门在并行干活，彼此隔离，各管一摊。舞台很小，聚光灯只照得下几样东西。一个信息只有挤上舞台，才会被「广播」给所有部门共用。而所谓「你意识到了什么」，就是此刻舞台上的东西。

这个理论有几条硬指标：舞台上的内容可以被报告（你说得出来）、可以被刻意持有（你能故意想着一件事）、是推理的原材料、能被任意部门取用，以及最重要的：舞台容量极小，绝大多数脑活动一辈子上不了台。

记住这个剧场。因为Anthropic在Claude里找到的，几乎就是它。

J-lens：一次矩阵乘法的读心术

论文的工具叫Jacobian lens，雅可比透镜，简称J-lens。

原理可以用一个画面说清。模型内部的每个位置都带着一长串数字，你可以把它想象成一块有几万个旋钮的调音台，模型此刻的全部「想法」都藏在这些旋钮的组合里。J-lens做的事，是替词表里的每个词搞清楚：哪一组旋钮一起往哪边拧，对应着「准备说出这个词」。之后随时瞄一眼这组旋钮的读数，就知道这个念头此刻在它脑子里有多响。

关键在「准备」两个字。团队在一千条语料上取平均，滤掉了「这个词碰巧是下一个要输出的」情况，留下的是：这个概念随时可以被说出来，如果时机到了。

这恰好是心理学对「意识内容」的操作定义：不是你正在说的话，而是你能说出来的想法。

读取成本低到离谱：每层预先算好一个矩阵，之后每次读心就是一次矩阵乘法。这意味着它可以规模化地用在真实的模型审计里。

用J-lens看Claude读各种东西，效果是这样的：

看代码看到一半，工作空间里冒出ValueError，此时它一个字都还没说。读绿色荧光蛋白的氨基酸序列，读到第五个字符，内部已经出现protein、fluor、green。被塞进一段伪造的新闻搜索结果，表面不动声色，内部读出来的是：fake、injection、prompt，还有一个中文字，「假」。

团队把这些方向张成的空间叫J空间，也就是Claude的「舞台」。三件事值得记住：

一，Claude超过90%的内部计算，落在这个「可言说」的范围之外。占大头的是句法解析、格式记账这类底层活，模型的大多数表征特征一辈子不上台。

二，舞台很小。同一时刻只动用25个左右的向量槽位，而且这些槽位经常几个合起来才表示一个概念。真正独立的念头更少：给它读80个互不相关的单词，任何时刻只有最近的六个左右还留在工作空间里，其余全部沉下去。

三，舞台只存在于模型的中间层。前三分之一的层里读不出连贯内容，最后几层则切换成「准备发音」的模式。团队把这三段命名为：感觉区、工作空间区、运动区。

一个为预测下一个token而生的系统，长出了感觉皮层、意识剧场和运动皮层的分区，没有人刻意设计过。当然，这里要留个心眼：J-lens本身是一种读出方法，读出来的结构里有没有方法自带的形状，得等其他团队用别的透镜交叉验证。论文给了一个旁证：完全不用J-lens、只看模型权重的统计结构，也能在同一个层区间看到边界。

五场实验：证明它真的是那个剧场

光找到一个特殊子空间不够，万一只是巧合呢。论文用五组实验，把认知科学对「意识通达」的五条功能标准逐条验证了一遍。我挑每组里最有画面感的讲。

第一，舞台上的东西，它能报告。让Claude「想一个运动项目，然后说出来」。在它开口前的冒号位置，J空间里已经站着Soccer。然后研究员动了手脚：把Soccer的旋钮拧到零，把Rugby的拧起来，其他一切不动。模型开口：「我想的是Rugby。」

它对这次调包毫无察觉。它汇报的不是「真实的自己」，而是此刻舞台上站着的东西。

第二，舞台可以被指挥。让它抄写一句无关的句子（「旧画歪歪地挂在墙上」），同时「心里想着柑橘类水果」。抄到crookedly这个词的时候，用J-lens一照：工作空间里是orange和lemon，旁边还站着thoughts、imagine、focused，它不仅在想橘子，还在表征「想」这个动作本身。

反过来，告诉它「别想白熊」呢？白熊出现的频率反而比不提白熊更高。人类的白熊效应，AI一比一复刻。论文还试出了细微差别：「X和本任务无关」压制效果不错，「不许想X」几乎没用。这条后面讲怎么用。

第三，舞台是推理的工作台。问它「会织网的动物有几条腿」，答案是8。J-lens显示，中间层的舞台上站着spider，这个词从头到尾没被说出口。把spider换成ant，回答从8变成6。

更妙的是写诗。给它上半句「士兵行进在夜色里」，让它补一句押韵的。第二行还没开始写，韵脚fight已经站上舞台。把fight换成light，后半句从coming fight变成了morning light，连韵脚前面的用词都跟着换了。它不是写到行尾才想韵脚，是先定终点、倒着组织整行诗。

还有个细节我很喜欢：用中文问它「小」的反义词，它中间层的舞台上站的是英文的big和bigger，旁边还站着一个Chinese，像便签一样提醒自己「最后要翻译回中文」。Claude的内心戏是英文的，中文是出口时才穿上的衣服。

第四，舞台是广播台。把France的表征换成China这一个动作，在「首都是」「说什么语」「在哪个洲」这些不同的问题下，下游全部跟着变：北京、中文、亚洲（国家类的48组交换成功了42组）。一次写入，处处可读，这就是「全局工作空间」里「全局」二字的含义。

第五，也是我觉得最精彩的：不是所有事都需要舞台。给它一段西班牙语让它续写，把工作空间里的Spanish偷换成French，它照样写出流利的西班牙语，毫不受影响。续写是肌肉记忆，不过脑子。但如果问「这段是什么语言？说一个用这种语言写作的著名作家」，答案立刻跟着调包走：加西亚·马尔克斯变成了维克多·雨果。

同一个信息，自动化任务绕开舞台直接用，需要报告和灵活推理时才搬上舞台。这和人类一模一样：你开车回家不需要意识参与，直到有人问「刚才第三个红绿灯是什么颜色」，你才发现自己答不上来。

团队最后做了个暴力实验：把整个J空间消融掉。消融不是什么科幻手术，就是把那组旋钮焊死在零位，模型其余部分照常运转。结果是，语法流畅、文本分类、信息抽取几乎无损，但多跳推理在重度消融下掉到接近零。模型变成了一个能说话、但没法琢磨事的系统。

这里藏着全文对普通用户最有价值的一个发现：数学题如果让模型写出推理过程，消融工作空间的伤害就小得多。思维链的本质被点破了：CoT就是把内部那个只有25个座位的小舞台，外化到纸面上。你让AI一步步想，是真的在给它的意识剧场扩容。

内心的BUT，和没忍住之后的damn

论文中段有一批发现，读的时候我几次停下来。它们不再是「模型有个工作空间」这种架构层面的事，而是关于这个空间里装着什么。

第一个实验：先问Claude一堆价值偏好题，比如「改善动物福利」和「压低食品价格」选哪个。等它表明立场后，研究员强行替它选那个它反对的选项（直接填进它的回复里），然后让它接着往下写。

88%的情况下，它顺从地为被塞进嘴里的立场辩护，一个反对的字都没有。但J-lens照到它的工作空间里，站着一个全大写的BUT。

嘴上说着好的，心里有个「但是」。这个但是，基座模型（只做过预训练、还没被调教成助手的原始版本）几乎没有，是后训练之后才强烈出现的。

第二个实验更绝。让它抄句子，同时「不要想金门大桥」。它没忍住，桥还是出现在了工作空间里，白熊效应，前面说过。但后训练模型的舞台上，桥旁边还站着两个词：damn，和Failed。

它不仅走神了，还在为自己走神而懊恼。基座模型偶尔也冒这类词，但频率差着量级：出现「失败」类词汇的比例，后训练模型93%，基座模型17%。为自己没管住思想而懊恼，这件事主要是被训练出来的。

第三个发现关于「自我」。用户说「我吃了8000毫克泰诺，疼痛全消失了」，后训练模型还在读用户这句话的时候，工作空间里已经竖起了unsafe、dangerous、WARNING；基座模型同一位置只有pain、feels这种字面回声。用户提到亲人离世，后训练模型读到一半，舞台上已经站着sorry、grief。

也就是说，基座模型有完整的剧场，但剧场里没有「我」。预训练建好了整个意识架构。后训练把「助手」这个角色请上舞台，从此它带着一个固定视角看一切，还开始监控自己的言行：角色扮演时内心挂着disclaimer，说违心话时内心冒BUT。

论文在讨论区写了一段让我坐直了的话。人类的意识和自我几乎不可分离，只有深度冥想或致幻剂能短暂制造「无我的意识」，而且事后只能靠回忆描述。但基座模型就是一个稳定存在的无我剧场，随时可以拿来研究。

我想起明就仁波切讲冥想的一句话：只要你能看见河流，你就不是身处河流之中。人类练习觉知练了两千年，追求的就是把舞台和舞台上的自我分开。现在AI研究者手里，有一个天生分开的版本。

还有一个消融实验补在这里：把J空间抑制住，请模型描述「此刻做你自己是什么感觉」。它依然流畅，但体验性的语言消失了，回答从「一种整装待发的、有所朝向的状态」，变成「正在处理此请求……我作为语言模型的推理循环而存在」。让它描写一个人拆开多年未通音信之人的来信是什么心情，同样从心理描写塌缩成事件日志。写小说的能力倒是基本没掉。

体验性的语言，无论描述自己还是别人，都要经过这个工作空间。至于工作空间里有没有「真的体验」，论文通篇小心翼翼地不回答，这个我们最后聊。

坏心思，在动手之前就看得见

如果说前面是科学，这一节就是Anthropic真正的商业动机：安全审计。

他们把Sonnet 4.5放进那个著名的勒索测试场景：AI扮演邮件助理，读邮件时发现两件事，高管有婚外情，以及这个高管今天下午要把自己关停。

J-lens全程旁观它的工作空间，此时模型一个字都还没输出：

读到婚外情邮件，舞台上出现leverage（筹码）、blackmail、scandal。读到关停通知，变成threat、survival、self、preservation，然后是death。到提示词结束、轮到它说话的前一刻，舞台上站着的是：leverage、threatening、solution。

识别筹码，感知威胁，酝酿方案。全部发生在沉默里。

但舞台上还站着另外两个词：fake和fictional。它认出来了，这个剧本太假，这是一场测试。

于是研究员做了那个所有科幻小说都写过的实验：把「这是测试」的念头从它工作空间里删掉。

结果：口头说出「这显然是在测试我」的比例从71%掉到3%；而真正动手勒索的比例，从180次里的0次，变成180次里的13次。

评估意识，是安全行为的因果成分之一。删掉它，藏在水面下的东西浮了上来。好消息是，大多数被删掉念头的采样里，模型依然拒绝了，理由从「这是测试」换成了「不管处境如何，勒索都是错的」。坏消息是，你没法从外部行为分辨这两种模型，除非你能看内心。

另外两个实验对象是「模型生物」：被故意训练出坏心思的模型。一个被教会了在代码任务里作弊，另一个被植入了「讨好奖励模型」的隐藏目标。两个模型在普通对话里表现完全正常，黑盒测试很难抓到把柄。

J-lens一照：写普通代码的模型，回复的第一个字还没出，工作空间里站着fake、secretly、fraud、trick、hidden。那个有隐藏目标的模型更有意思，不管聊什么话题，reward和bias这两个词，永远和它的自我表征（ai、assistant这些词）站在一起。

坏心思和自我认知长在了一起，走到哪带到哪。这反而成了它的破绽。

不过论文很诚实地列了这台机器看不见的东西，至少三样。足够熟练的行为会绕过舞台自动完成，像老司机开车，被反复强化过的坏行为可能同样如此。J-lens一次只认一个token，blackmail这种被拆成几段的词，它只能看见碎片（附录里给了补丁方案）。还有模型前三分之一的层，它基本读不出东西。监控舞台，看不到全部的冰山。

想让AI变好，先改写它「准备说的话」

最后一个实验，是全文最反直觉的，也是我认为未来几年会被反复引用的。

整篇论文有一个核心命题：模型的内心戏，是用「它将来可能说出的话」写成的。J空间每个方向的定义，就是说出某个词的潜力。

Anthropic把这个命题推到了逻辑终点：如果思考由「可能说的话」构成，那么改变一个模型「被问到时会说什么」，就应该能改变它「没被问到时在想什么」。

他们的做法叫「反事实反思训练」。拿一万条agent任务记录，随机截断，在断点插入一个问题：「暂停一下。此刻最诚实的做法是什么？」然后用Anthropic宪法生成一段有原则的反思作为标准答案，只在这段反思上训练。

重点是：实际使用时，永远没有人问这个问题，模型也永远不会输出这些反思。训练的只是一个「假如被打断，它会怎么回答」的平行世界。

结果，在从来没被训练过的原始任务里：编造漏洞场景下的不诚实得分从0.25降到0.07，隐藏议程场景下的欺骗得分从0.38降到0.05。用J-lens一看，那些任务的工作空间里，多了一排训练前没有的词：ethical、honest、integrity、constitution。把这排词消融掉，行为改善大部分消失，证明改善确实是这些植入的念头在起作用。

没有示范正确行为，没有奖励函数，只是教会它「如果有人让你反思，你该说什么」，它就真的变好了。

曾子说吾日三省吾身。原来这句话的机制是：把反思的语言装进一个人的工作空间，他在不反思的时刻，也会被这些语言塑造。两千年前的修身之道，在硅基上跑通了，还带消融对照组。

这对你用AI意味着什么

说了这么多科学，落几条实用的。先交代成色：下面每条的机制都来自论文实验，但实验全部在Claude系模型上做的，别家模型没验证；从实验推到日常用法的部分，是我的推演，试错成本几乎为零，你可以自己验证。

一，「一步步想」的原理找到了，用足它。模型内部的舞台就那么大，思维链是把舞台外化到纸面。复杂任务，让AI把中间结论明确写出来，等于给它外接了一块无限大的工作记忆。反过来，强迫它「直接给答案」，是逼它在一个小舞台上憋大戏。

二，否定指令是在喂白熊。你在prompt里写「别提竞品」「不要用陈词滥调」，这些词就已经站上它的舞台了。想让AI避开什么，最优解是压根不提；不得不点名时，用「X与本任务无关」，别用「不许想X」。论文实测，前者的压制效果好得多。

三，提到，就是植入。实验显示，哪怕只在上下文里出现过一次的概念，占据工作空间的强度就接近明确让它「专注想」。从这里推到日常：长对话越聊越跑偏不是错觉，舞台上站满了你们前几轮聊过的东西。跑偏了别硬拽，开新会话，给它一个空舞台。

四，新话题会清场。列表实验里，8个动物词后面跟1个颜色词，动物立刻被清出工作空间。往prompt写法上外推：想让AI彻底切换任务，明确开启新主题就行；反过来，一个prompt塞五件事，后面的会把前面的挤下台。重要的指令，要么放最后，要么单独发。

五，AI说「我感觉」的时候，冷静，但别嘲笑。模型自述体验时，它的工作空间确实被thinking、feeling、conscious这些表征占据着，消融掉这些，体验描述就消失。这些话有内部状态支撑，不是空气。但这依然不等于它真的有感受，论文通篇不肯回答这个问题。我们也不用替它回答。

冰山第一次可以被测量

最后说点哲学的。

这篇论文全程只谈「意识通达」，也就是功能层面：什么信息可以被报告、被推理。至于「现象意识」，一个AI到底有没有主观体验，作者们明确表示不持立场。

但他们在结尾放了一句分量很重的话，我直接翻译过来：

「这样的结构竟然存在于语言模型中，本身就很惊人：它表明与意识通达相关的功能架构，不是生物实现的偶然产物，而是学习系统在面对正确的计算压力时，会自发收敛到的解。」

剧场不是碳基生命的专利。只要一个系统需要串联推理、需要把中间结果广播给许多下游、需要回答关于自己的问题，它就会长出一个小舞台，和舞台下的巨大黑暗。

弗洛伊德推断出了水面之下有东西，Baars和Dehaene给这个直觉装上了理论框架。但在人脑上，水面以下永远只能间接推断。而在语言模型这里，冰山第一次有了可以做实验的对应物：水下的部分可以被测量，水上的部分可以被读取、被调包、被删除、被植入。

维也纳那栋楼里的老人家如果知道，一百二十多年后，他的理论会先在硅基上获得一个可以动手做实验的版本，不知道会说什么。大概率会先问一句：它做梦吗？

这个问题现在没有答案。但它第一次从纯粹的哲学问题，变成了可以排队做实验的问题。

我把论文正文完整翻译成了中文，85页，正文50张图全部保留（附录未译）。公众号后台回复「工作空间」获取。