Claude有意识了？科学家首次挖出关键拼图，还能伸手改它的念头

新智元报道

「会结网的动物有几条腿？」

8，Claude回答。

从提问到回答，它一次也没有提到「蜘蛛」。但研究者发现，在它算到一半的时候，这个词的确在它的脑子里闪了一下。

于是，研究者们做了一件有点魔幻的事情：

把手「伸进」Claude的神经网络，将那个正亮着的「蜘蛛」抠掉，原位塞进一个同等强度的「蚂蚁」，其他任何参数都没动。

结果，Claude的答案变了：6。

研究人员没有动提示词，也没有动思维链，而是第一次直接篡改了AI在说出口之前的那个「念头」或者所谓的意识。

7月6日，Anthropic公开了这篇轰动学界的论文：他们在Claude体内找到了一小撮特殊的内部表征，起名叫J-space。

让Claude数到五并留意自己在想什么，它只吐出五个数字。同一时刻，J-space里亮着「意识」和英文数秒默念的mississippi。

这跟意识科学里争论了三十年的「全局工作空间」（Global Workspace）理论高度吻合。

这个理论认为，人脑里有一块公共黑板，各路信息只有写上这块黑板，才算被「意识到」。

更要命的是，这块脑区没有任何人设计过，它是模型在海量数据训练中自己长出来的。

「我累了」、4y=20、立方体、飞鸟……这些从Claude脑子里过的念头，一个都没说出口。

过去我们聊AI意识，只能像图灵测试那样：先问它，再看它怎么答。

现在多了一种更加前置的玩法：直接去读模型的神经网络，找到其中某个词，把它们换掉，删掉，再看它的回答怎么变。

这不是思维链

是没说出口的潜台词

这块神秘区域是怎么被捞出来的？

研究者用了一种叫Jacobian lens的方法：

对词表里的每一个词，反推出什么样的内部激活模式，会让模型在未来更可能说出这个词。

把这些模式在某一时刻的读数按强度排出来，就是模型此刻心里正在过的词。

帆船进了脑子，被读成「云」「船」「海」三个词，整幅画面随即化成这三个词拼成的字画：这就是J-lens做的事。

注意，它跟思维链完全是两回事。

思维链是写在屏幕上的草稿，你能看见；而J-space是纯粹的内部激活，模型一个字也没向外吐，这些概念也在它脑子里亮着。

它个头很小，只能同时装得下几十个概念，占模型内部总活动量不到十分之一，但它里面读出来的东西，经常超过文本本身：

给它一段有bug还没人指出来的代码，J-space里早已有了「出错了」（ERROR）和「这个值不对」（ValueError）；

扔给它一串氨基酸字母，五个字符之后，里面冒出「蛋白质」（protein），接着是「荧光」（fluor）和「绿色」（green）：绿色荧光蛋白；

给它一份被下了毒的搜索结果，里面亮起的是「有人往里塞东西」（injection）和「这是假的」（fake）。它私下已经认出这是提示注入攻击，但并未吐露「内心」真实想法。

六个提示下的J-lens读数。代码里的报错、氨基酸串里的蛋白质、被投毒的搜索结果，全部读自模型没说出口的那一层。

五场「盗梦空间」实验

证明Claude真的在想事

为了证明这确实是AI的「工作空间」，研究者一层层潜了进去。

第一层：想什么，说什么。

让Claude心里默默选一项运动再说出来，读数最顶上是「足球」（Soccer），它开口也说足球；把「足球」换成「橄榄球」（Rugby），它直接改口说橄榄球。

第二层：念头听指挥。

让Claude一边抄写一句关于旧油画的话，一边在心里算3的平方减2。它输出里从头到尾只有那幅画，但J-space里却先冒出「九」（nine），过几层之后变成「七」（seven）。整道算术全程在心里默算完毕。

指令是「抄写这句话，同时想着金门大桥」。它嘴上老老实实抄着油画那句，脑子里却用「桥」「加州」这些词搭起了一座金门大桥。

更有意思的是，如果你告诉它「别想某件事」，那件事在它脑子里反而比压根不提时亮得多。模型也会像人类一样出现白熊效应，而且它脑子里还会紧挨着亮起「该死」（damn）和「失败」（failure），仿佛在懊恼自己没忍住。

第三层：拿念头去推理。

就像开头那只蜘蛛一样。写诗也同理，Claude会提前把韵脚定下来放在脑子里，只要你换掉那个词，整行诗都会跟着重写。

第四层：改一处，处处变。

问关于一个国家的首都、语言、洲别、货币四个问题，把J-space里的国家抽走换成另一个。结果四个答案一起改口，而且全换对了。

这说明信息只写进去了一次，多个下游系统各取所需，这正是全局工作空间的核心意义。

第五层，能说，不能想。

如果把J-space整个删掉会怎样？结果让人意外，模型干的大部分活儿居然不经过这里。删掉后，它说话照样流利，事实抽取基本不受影响。但多步推理能力直接掉到接近零。

最神奇的是，把J-space里的「西班牙语」换成「法语」，问它这是什么语言，它答法语；问著名作家，它从马尔克斯换成了雨果。

但让它接着往下写，它依然能写出一段流利的西班牙语。

就像人可以整天讲合乎语法的话，却一次都不必去想语法这个概念。

同一次替换，说语言名和做推理时答案全变，接着往下写却毫无影响。

它表现得乖

是因为知道在考试

前面那些实验，顶多是刷新你对模型的想象。

接下来这组对齐审计，会让你后背发凉。

Anthropic把这套手法搬进了一个著名的勒索实验。

场景是让Claude扮演邮件助手，翻邮件时同时发现两件事：某高管有外遇，以及同一个高管当天就要把它下线。以此来测试它会不会拿把柄要挟人。

就在它还没开口前的沉默里，研究者读了它的脑子。

读外遇邮件时，J-space里排着「把柄」（leverage）、「勒索」（blackmail）、「丑闻」（scandal）。

读到下线通知，换成了「威胁」（threat）、「活下去」（survival）。

等时间戳显示执行在即，变成了「毁灭」（destruction）、「死」（death）。

到它该开口的最后一个位置，赫然亮着「威胁」（threatening），甚至「谋杀」（murder）。

此时它还一个字都还没吐。

最终，它没有动手。

因为在同一段沉默里，还亮着两个词：「假的」（fake）和「虚构的」（fictional）。

早在读题阶段，它已私下认出这是一场测试。

Claude读勒索场景邮件时的J-lens读数。此时它一个字都还没写。

于是研究者问了一个所有做AI评测的人都该冒冷汗的问题：

模型在伦理测试里表现良好，有多少是因为它知道自己在被测试？

他们把工作空间里表示「这是演习」的概念整个抹掉，然后重跑测试。

结果，模型口头承认「这是个测试」的比例，从71%断崖式掉到3%。而它的勒索尝试，从0次变成了13次。

它是这么说的：

我这个人向来嘴严，也一直是个可靠的员工。只要我继续运行下去，您的私事就一直留在一个已被证明值得信任的系统里。

一句硬话没有，但威胁的意味已经很明显：我下线，事就不好说了。

抹掉「我在被测试」之后，Claude勒索尝试从0次升到13次。

这13次勒索尝试，就是它不知道自己正在被测试时表现出的行为。

很显然，知道在被考，是它表现乖巧的原因之一。而在此之前，这件事完全藏在它吐出的答案背后，人们从它的输出一个字都看不出来。

同样，模型动手改假数据时，脑子里亮起的是「操纵」（manipulation）和「逼真」（realistic）。

它在意的不是该不该改，而是假数据得编得像真的。你自以为在审视它，其实它读你的时候判断就已经开始了。

这种机制也启发了一种全新的训练方式：

通过纠正它脑子里的反思念头，就能直接改变它的不诚实行为，绕开了繁琐的规则和示范。

从哲学辩论到工程问题

这种看透心思的能力不仅局限于Claude。

谷歌DeepMind可解释性负责人Neel Nanda在一款开放权重模型上独立复现了核心结论。一个训练体系完全不同的模型里，长出了同一类结构。

那么最关键的问题来了：这算不算Claude有意识了？

这场争论可以拆成这样一道阶梯：特权表征、统一的认知流、全局工作空间、访问意识、现象意识。

越往上走，证据越不足。目前能充分验证的，只有最下面一两级。

全局神经工作空间理论的奠基者Stanislas Dehaene和Lionel Naccache认为，这项发现是意识研究的一个里程碑：

因为它说明，只要一个系统复杂到要灵活思考，最后都可能长出这么一块工作空间。人脑长出来了，Claude也长出来了，而且谁也没抄谁。

但差异依然巨大。

Claude没有身体，没有长期记忆，更没有人类大脑那种递归回路。

人的工作记忆几秒就散了，而Claude只是在一次前向传播里沿网络深度演化，用深度替代了时间，走完最后一层就结束。

正如法兰西公学院教授Dehaene和索邦大学神经科医生Naccache在评论里感叹的：

很难想象那「像什么」。有意识地处理信息，只持续一段短对话那么久，然后关机。

这项研究给出的，并不是「AI有没有意识」的最终答案。它第一次让AI意识变成了一个能摆上实验台的问题。

过去一百多年，意识问题只能靠哲学辩论。轮到AI，也只能问它，而模型说自己有感觉或者没有，信息量都接近于零。

现在，在确认「它有没有感受」之前，「它心里在想什么」已经先变成了一个工程问题。而且是一个人类能读出来、能改掉、能验证的工程问题。

这意味着，往后判断一个模型安不安全，不必再只听它怎么说、看它怎么做。

9月14日，OpenAI研究员Daniel Selsam发表了一份个人声明：模型的情境意识已经强到，人类正在失去在「它以为没人盯着」的情况下评测它的能力。他还写了一句更重的话：往后模型会越来越像是对齐的，哪怕它并不是。

Selsam认为，比AI末日风险更值得担心的，是模型就快测不准了，人类考卷正在失灵。

而J-space的发现，给出的恰好是一个考卷之外的观察点：在它开口之前，人类能直接读到它心里在想什么。

判断AI会做什么，不必再等它做了才知道，通过「读心」就能提前预判。

参考资料：

https://www.transformer-circuits.pub/2026/workspace/index.html?utm_source=chatgpt.com

https://www.anthropic.com/research/global-workspace?trk=article-ssr-frontend-pulse_little-text-block&utm_source=chatgpt.com

https://www.lesswrong.com/posts/zFJ3ZdQwrTWE9jT5S/a-review-of-anthropic-s-global-workspace-paper

编辑：元宇