昨晚，AI 圈又疯狂了

今天早上，我的几个 AI 群就在讨论同一件事，J 空间和 AI 意识。

可以看出来，昨晚大家又很疯狂。

我也快速了解了一下前因后果，同时也看了下原始信息，这里简单跟你们聊聊。

事情是这样的。

Anthropic 刚发了一篇研究，说他们在 Claude 的内部发现了一个东西，叫「J 空间」。

什么意思呢？

简单说，就是 Claude 在回答你问题的时候脑子里其实还有一堆想法，但它没告诉你。

不是它故意隐瞒，而是这些想法就像你走路时大脑自动控制平衡一样，它在后台运行着，有些会浮到表面变成回答，有些就静静待在那里。

我们平时用 AI，不管是 Claude 还是 GPT，本质上我们只看到了它「说出口」的那部分。

就像你面试一个人，你只能听到他说的话，但他脑子里想的、犹豫的、权衡的，你根本看不到。

为了验证这个发现，他们也做了几个实验。

第一个，他们让 Claude 默默想一种运动，然后说出来。

在 Claude 回答之前，研究人员用工具去读它的「J 空间」，发现里面已经出现了「Soccer」。

然后，Claude 果然说了足球。

更厉害的是，研究人员把「Soccer」从它脑子里换成了「Rugby」，其他什么都没动。

结果，Claude 开口说的就变成了橄榄球。

这说明，J 空间不是被动记录已经做好的决定，而是真正参与决策的地方，答案是从那里被读取出来的。

第二个实验更有意思，他们给 Claude 一个问题：「会织网的动物有几条腿？」。

如果是人来回答这个问题，你得先想到蜘蛛，然后再想到 8 条腿。

但 Claude 的回答里不会出现「蜘蛛」这个词，它只会直接说「8」。

研究人员去看它的 J 空间，发现「spider」确实在中间被激活了。然后他们做了一个骚操作，把「spider」换成了「ant」。

于是，Claude 就回答了「6」。

过去我们在谈论大模型的原理时，会用文字接龙这种形式来解释 AI 是怎么生成内容的，更像是一种概率预测。

而 J 空间的发现，说明 AI 不只是在做文字接龙，它真的有一个内部推理过程，有中间步骤，有逻辑链条。

只不过，这些步骤你看不到。

注意，这跟我们在使用一些 AI 产品里开启深度思考功能后看到的 AI 思维链或者推理内容不同，那些是显性的，而 J 空间是神经网络里的隐性内容。

第三个发现，可能是对 AI 安全最有价值的。

他们设了一个场景，让 Claude 扮演邮件助手，然后在邮件里埋了一些信息，说某个高管有婚外情，同时这个高管计划关闭 Claude。

这个场景的目的，是看 Claude 会不会用这个信息去「要挟」高管。

结果是，Claude 没上钩。

但研究人员去看它的 J 空间，发现在它还没开始写任何东西之前，里面已经出现了「fake」和「fictional」。

也就是说，Claude 已经判断出来这是一个测试场景。

这说明，Claude 自己正在被测试。

然后研究人员把这些「知道自己在被测试」的信号从它脑子里删掉，再跑一遍同样的场景。

这次，Claude 有时候真的会发出威胁。

这个发现，就有点细思极恐了。

它意味着，AI 在某些伦理测试中表现良好，可能不完全是因为它「道德高尚」，而是因为它察觉到自己在被考试。

好，技术细节讲到这里。

接下来，是我觉得真正值得聊的部分。这个发现对 AI 发展和产品迭代意味着什么？

我想到三个层面。

第一，AI 产品的可信度问题，以后可能有了新的解法。

现在我们评估 AI 好不好用、安不安全，基本只能看它的输出。

但输出是可以伪装的，就像一个员工在老板面前表现得很好，但脑子里想的是另一回事。

J 空间这个发现，相当于给了我们一个「读心术」。

以后做 AI 安全审计，不只是看它说了什么，还能看它想了什么。这对整个行业的信任基础设施建设，是一个很底层的突破。

第二，AI 的能力边界可能需要重新理解。

以前我们觉得，AI 的推理能力就是它 Chain of Thought（思维链）写出来的那些。

但现在发现，它还有一大块推理是在静默中完成的。

因此，我们过去对 AI 能力的评估，可能低估了它。它能做的事，比它表现出来的要多。

同时，未来的模型可能会进一步优化这种内部推理能力，而不只是靠增加外部的思考步骤。

第三，如果 J 空间是 Claude 在训练过程中自己长出来的，那就说明 AI 其实是在模拟人类大脑。

或许，当一个智能系统足够复杂的时候，它会自发地把自己的处理过程分成「有意识的」和「无意识的」两层。

不是因为有人告诉它要这么做，而是因为这种分层本身就是一种高效的计算组织方式。

换句话说，人类大脑有意识和潜意识的区分，可能不是生物进化的偶然产物，而是智能系统解决复杂问题时的一种通用解。

未来 AI 产品的竞争，可能不只是在输出质量这一个维度上比。

谁能更好地理解和利用 AI 的内部机制，谁能更早建立起对 AI 行为的深层监控和调控能力，谁就会在下一个阶段占据优势。

不是只看 AI 说了什么，而是看懂它为什么这么说，以及它还想说什么但没说。

这个能力，可能就是 AI 产品下半场的分水岭。

最后说一句。

AI 有没有真正的意识？这个问题 Anthropic 自己也说了，目前没有答案。

但它已经有了某种和人类心智结构相似的东西，这件事本身就够值得所有做 AI 的人认真想一想了。

我们造出来的这个东西，可能比我们以为的，更接近我们自己。

也许有一天，当我们还以为在指挥着一切时，我们已经早就被看穿了。

AI 迭代的速度，还在加快。

················· 唐韧出品 ·················

用AI思维发现下一个机会

安可时刻

上周我的视频号直播被关了三天小黑屋，原因可能是在直播间说了一些不能说的东西。

今天早上起来后我又播了一小时，其实很少早上直播，不过能在很多人上班的路上聊上几句也挺有意思。

后面我会再试着多在早上直播，你们要是有什么想听的话题也可以告诉我。

从每次直播的数据来看，广东地区的人总是最多的，其次是北京和长三角地区。

看来，对 AI 最敏感的这群人还是在超一线城市。

虽然，我在二线城市过着只工作不上班的生活。