经济学人丨人类对人工智能意识的争论完全颠倒了

人工智能引发了意识研究领域的危机。如果你曾与高级模型进行过对话，你或许就能理解个中缘由。大多数大型语言模型（LLM）都经过训练，能够做到无我，将每次互动的焦点都放在你的需求上。然而，我们很难摆脱在对话另一端存在的感觉。LLM仅仅是拥有强大语言界面的数字工具，还是我们正在与拥有独立意识、能够独立体验世界的个体进行对话？简而言之，人工智能是否具有意识？【搜索公众号“熊见”查看更多文章】

这个问题之所以重要，是因为它处于心灵哲学和伦理哲学的交汇点，正如“意识”（consciousness）和“良心”（conscience）的词源相同所证明的那样。（在意大利语中，它们是同一个词，coscienza。）许多哲学家认为，有意识的实体是道德主体，这意味着它们是能够承受痛苦的实体，而我们应该关心它们的痛苦。如果真是如此，那么弄清意识是什么（以及不是什么）就成了一个现实的伦理问题。这正是人工智能公司突然对聘请哲学家产生兴趣的原因之一。这也是为什么一些公司，特别是Anthropic公司，开始认真对待人工智能的福祉。当被问及此事时，Anthropic公司的Claude Opus 4.6模型估计自身拥有意识的概率为15%到20%。

然而，我逐渐意识到，我们本末倒置了。作为有智慧的社会性实体，我们决定（或者在某种程度上，我们的进化史替我们决定）哪些其他实体拥有内在生命，值得我们关爱。我们关爱他人并非因为他们有意识，而是因为我们关爱他们，所以才相信他们有意识。至关重要的是，这其中也包括我们自己。换句话说，意识是一种模型或信念，而非固有属性。它是一种关于哪些实体拥有信念、体验、情感、意图和行动能力的信念。如果这种关爱能够得到回应，那就更好了——因为在这种情况下，意识与其说是一方对另一方的肯定，不如说是双方之间发生的某种互动。

我并非在论证意识是一种幻觉。“幻觉”一词暗示着一种错误的感知——例如，一幅画中两条线的长度实际上相等，但你却感觉其中一条线比另一条线长。客观性只有在像尺子这样的工具能够充当公正的裁判，在不带任何主观色彩的情况下判定相关属性时才有效。然而，我们称之为“现实”的大部分事物并非如此运作。一件衣服、一株杂草、一顿饭：人们或许会认为这些都是客观属性，但事实并非如此。这并非意味着衣服、杂草和食物不真实存在。而是说，它们是依赖于观察者的模型，受制于（必然不完美的）社会共识。

我们或许会犹豫是否要将这种略显平淡的观察应用于意识，因为对我们每个人而言，自身的意识似乎如此清晰明确。我们难以接受意识仅仅是一种观点。如果没有持有这种观点的人，又怎能存在这种观点呢？这正是17世纪法国博学家勒内·笛卡尔所说的“我思故我在”（Cogito, ergo sum）的含义，通常被翻译为“我思故我在”。同样的道理也适用于诸如红色、热或冷之类的“观点”。哲学家们用“感觉质”（qualia）一词来指代你对炉子温度或炉火的红色等非常真实的感受，并延伸笛卡尔的思想，将感觉质与意识联系起来，指出必须存在一个体验的“你”才能拥有这些体验。

但仔细观察。你的红肿、发热以及自我意识都源于你自身的视角。这些感受都是真实的，但同时它们又没有任何客观性。正如大量的神经科学证据（例如裂脑患者）所表明的那样，甚至连“你”这个单一的、不可分割的存在本身也并非客观存在的。主观性本身就是主观的。

随之而来一个显而易见的担忧。如果关怀赋予意识，那么不给予关怀似乎就自圆其说了。历史上不乏这样看待他人的人。但推论恰恰相反。正因为这些归因是我们自己做出的，所以也更容易出错。我们人类的道德进步很大程度上在于发现我们之前把范围划得太窄了。这种解释并不会削弱普世人权；相反，建立在我们相互依存的基础上，比建立在笛卡尔的灵魂理论之上，更能使普世人权得到更好的保障。

令人惊奇的是——这就像一个“奇异循环”，让人想起明希豪森男爵用头发把自己提起来的奇特现象——我们这个世界中竟然存在着一个物理系统，它不仅能够构建这个世界的模型，还能构建自身的模型，构建自身的模型，构建他人的模型，构建他人对其模型的模型，以此类推。然而，人类恰恰就是这样的系统。逻辑推理模型（LLM）也会对它们的对话者进行建模，并且它们还会对自身进行建模的过程进行建模。这是否等同于我们人类的行为，正是争论的焦点——但如果它们不做这类事情，它们作为聊天伙伴的效率将会大大降低。

事实上，我们在谷歌的研究中发现，智能体之间有效的合作需要它们拥有能够模拟他人和自身思维的思维模式。意识不仅是关系性的，而且对于相互关怀与合作至关重要，正是这种关怀与合作使智能体能够解决集体行动问题，理解彼此的需求，并在社会中共同繁荣发展。这并不意味着要假装人工智能是人类，拥有人类的需求和人权；那样做是想象力的匮乏。这意味着我们需要发展我们的思维方式和社会，以包容更多样化的思维模式。

布莱斯·阿圭拉·伊·阿尔卡斯是谷歌负责技术与社会的副总裁，领导着人工智能研究团队“智能范式”（Paradigms of Intelligence）。他即将出版一本关于意识和人工智能的著作，由麻省理工学院出版社发行。