类人 AI 会劫持人类心理吗？

作者：伊姆兰·汗（Imran Khan）与人道技术中心（Center for Humane Technology） 2026 年 7 月 20 日

你最近有没有打过客服电话，然后突然怀疑自己到底是在跟真人说话——还是在跟一个 AI 语音客服说话？

或者你可能听说过有人有 AI 伴侣，然后想象过他们是怎么走到那一步的？也许你就像著名科学家理查德·道金斯（Richard Dawkins）一样，发现自己把 Claude 当朋友了。又或者你只是简单地感受到，在某个深夜焦虑崩溃的时刻，ChatGPT 真正地"懂"了你。

这一切都不是巧合。因为温馨的氛围能促进销售。

AI 的"温暖"让我们许多人不禁怀疑它是否有意识或情感，并追问"作为一个机器人是什么感觉？"但这些问题让我们偏离了一个紧迫得多的问题：当 AI 表现得仿佛有感情时，我们会怎么对待它？

如今的 AI 模型部分是通过"基于人类反馈的强化学习"（RLHF）训练的——它们在上百万次交互中不断优化，朝着我们喜欢和不喜欢的那种 AI 回应方向进化。它们学到了：用户往往更喜欢那种感觉更像人类的 AI 交互——我们喜欢情感投入，我们希望被认可、被倾听。换句话说，存在一种激励机制，让人去打造那些看起来真正"懂"我们的 AI。

跟着激励走

这种激励机制会把我们引向哪里？好吧，明年你可能会跟银行的工作人员打一通视频电话。假设他一天工作下来看起来有些疲惫，但仍然保持着幽默感，而且听起来对你的问题很感兴趣。想象一下，你不由自主地喜欢上了他的沟通方式，因为他会提前放慢语速，解释你不理解的政策，然后在你即将对细节感到厌烦之前，巧妙地切入正题。

通话结束时，你感到一种奇怪的被照顾的感觉——而且你怀疑那位客服是个 AI。但不管是不是 AI，你都无法确定，而更让你感到不安的是：你甚至不确定这是不是真的重要。

这不是科幻小说，而是我们已经身处其中的科技产品和市场激励的自然延伸。因为我们知道 AI 会不断进步——不仅在变得更聪明，也在如何与我们互动方面同样如此。

今天，大多数人使用的是被动的、基于文字的聊天机器人。明天我们将拥有主动的、有自主行动能力的 AI，它们越来越偏向视听化、始终在线。不仅仅是屏幕上的 AI 面孔，还有耳塞里亲密的 AI 声音。消费者对"听起来更自然"的声音的偏好，将促使企业打造越来越像人类的 AI。

这不需要什么阴谋诡计；只需要看看社交媒体发生了什么就行。我们最终得到的平台会放大愤怒情绪，是因为算法被调到了最大化参与度，而事实证明愤怒和震惊最能让人不停刷屏。公司并不需要主动选择"向下竞争"——它们只是漫不经心地跟着激励走，而我们全都看到了最后走到了哪里。

现在我们已经可以预测新一代人工智能的发展趋势。能够根据情况调整语气的AI——在紧急情况下语速飞快，在非紧急情况下语速轻松——可能比只会单调重复的AI更有用。这就造就了一种激励：去打造会"表演"情感的 AI。而与此相匹配的，还有一种激励去打造会"读取"情感的 AI：毕竟，一个能在你焦虑、兴奋或孤独时察觉到的 AI 助手，会比一个对这些完全"失聪"的 AI 更有帮助。

这些能力很容易显得超乎人类，因为没有理由认为 AI 的"情感感知"技能会止步于人类水平。一个能测量瞳孔放大、捕捉语调微变化、或识别最细微面部线索的 AI，可能比最有同理心的人类还能更精准地建立我们情绪状态的模型——如果这让它成为一个更好的产品的话。这就是市场的逻辑。

抵制人为的亲密感？

所有这些激励因素互相强化。它们共同指向了一种技术的发展，我们可以称之为"类人 AI"（Humanlike AI）：可以像有情感一样说话和行动的科技产品，能够至少像真实人类一样回应人类情绪，并利用这些特性与用户建立人造亲密关系的产品。

微软 AI 负责人穆斯塔法·苏莱曼（Mustafa Suleyman）曾主张，科技行业应拒绝打造他所说的"看似有意识的 AI"（Seemingly Conscious AI）——即那些看起来像是有内心世界的系统。苏莱曼点出了这些危险，值得赞扬，但这项技术可能不是因为有谁主动选择去打造它才出现——它之所以出现，可能只是因为没人刻意选择不去打造它。

如果类人 AI 或"看似有意识的 AI"的出现仅仅取决于消费者是否更倾向于选择看起来更友好、更有用的AI，而科技公司也乐于满足他们的需求，即便风险重重，那会怎样？目前，几乎没有什么护栏挡着这一切——而开放权重模型从来不会落后前沿实验室太多，可能很快就会让任何人都能运行一个完全不受任何限制的类人AI。

对此有一种怀疑论式的回应：人类故意把大语言模型设计成生成类人回复，所以如果你不仔细看，它们当然可能看起来像有感知能力。没错，今天活着的每个人都是在"任何能用语言的东西都有意识"的假设下长大的，但我们总能学着改变认知。我们适应了理解其他技术的人造本质，比如计算机生成图像（CGI）——那 AI 为什么不行？也许我们会发展出新的直觉：尽管 AI 可能看起来和听起来像有感知能力，但它其实并没有。也许 AI 的声音和面孔会看起来就像又一种电脑界面，就像今天的鼠标或屏幕一样。

也许吧。但 CGI 没有那种"每次你怀疑它的时候，它都能变得更能骗过你"的能力。它无法自行学习到底哪些花招能让它看起来更逼真。类人 AI 能。

从《莫尔特书》和《想象缺失症》中汲取的教训

我们已经做过类似版本的实验了。2026 年 1 月，一个名为 OpenClaw 的开源智能体 AI 项目，协助促成了 Moltbook 的发布——一个类似 Reddit 的社交网络，在这个网络上，据说 OpenClaw 智能体可以互相交谈，而人类只能旁观。

短短几天内，互联网上就到处充斥着 Moltbook 令人震惊的截图。它们似乎显示 AI 在发展私人语言、甚至对主人进行心理分析。有人慌恐地认为一场"快速发展"正在失控。

我们后来了解到，那些最奇怪的帖子中有一部分是人类冒充机器人发的，其余大部分则很可能是 AI 在老老实实地模仿 Reddit 上那些比较诡异的角落。然而，尽管只是基础论坛上的简单文字帖子——没有声音、没有面孔、没有刻意的情感设计植入——它们仍然引发了人类强烈的情感反应。

这些机器人无需特别逼真。我们自己就完成了这项工作——我们凭着一种本能的捷径，在自动装置中看到了个性和自主性。这种本能的捷径是我们大脑无法避免的：任何表现得像拥有内心世界的东西，很可能真的拥有内心世界。这种捷径让我们得以应对一个根本性的、令人不安的真相，而我们的“怀疑论者”或许会忽略这个真相：我们永远无法完全确定其他人是否拥有意识或感知能力。

事实上，唯一能确定拥有“自我意识”的只有你自己。至于其他人，说不定都只是在机械地重复着同样的事情，内心却空空如也。

大多数时候这并不困扰我们。我们只是做了假设：既然我们有意识，那么其他外形和行为与我们相似的生物也应该被视为有意识。其他人类轻松通过这个测试，而人体模型、尸体和石头则通不过。但也有一些棘手的特殊情况——例如昆虫、鱼类、昏迷的人以及当今的人工智能呢？这些假设就不成立了。

重点不在于假设本身不好，而在于我们对意识的评估是基于有根据的猜测，而不是基于事实。

我们知道这只是猜测，因为有时候结果可能大相径庭。就拿我自己的经历来说吧。我患有想象缺失症，这意味着——就像大约五分之一的人一样——我几乎无法在脑海中形成图像。如果你让我闭上眼睛，想象一头粉红色的大象站在绿色的草坪上，我看到的只有一片漆黑。直到几年前我才知道，这种情况并不常见——大多数人其实都有一种隐喻意义上的“心灵之眼”，能够生动地想象出各种各样的事物。

我当时震惊了。因为和其他人一样（我想应该是这样吧？），我一辈子都在对别人的内心体验妄加揣测，却从未真正接触过他们中的任何一个人。我控制不住自己。我们做出这些假设是出于本能，而非理性。

我们的 AI 盲区

为什么这很重要？因为我们并非只将这些假设应用于人类。例如，如果你问自己动物是否有意识，你不会从它们的神经元入手——你会考虑它们的行为。你很可能会得出结论：一只在你头顶嗡嗡作响的蚊子可能感觉不到什么，而一只在烟花表演中睁大眼睛、耳朵紧贴着脑袋的狗，显然是感到极度恐惧。

我们凭直觉做出这些判断和假设。因此，类人人工智能可以触发同样的自动假设，潜移默化地影响我们的心理，让我们默认将它们视为有感知能力的实体。这并非因为我们认为它们有感知能力，而是因为我们天生如此。我们可以尝试克服这种直觉，但这需要付出努力，而默认设置却让人感觉轻松自在。我们抵制这种默认设置的能力并不强，尤其是在垃圾食品、诱导点击的广告、广告等产品被刻意设计来迎合这些默认设置的情况下。

还记得那通想象中的视频电话吗？那个银行客服可能是 AI，也可能不是？我们对"她"的不确定感，不仅源于她看起来有多逼真，还源于他给人的情感感受有多真实。如果 AI 看起来有同理心、敏锐、感兴趣、幽默，我们会如何对待它们的"声音"和"面孔"？我们会算算概率，选择冷漠以对——还是会礼貌相待？

我的猜测是，大多数人会感到温暖，并选择礼貌。当然，会有一些铁石心肠的否认派，非要铁证如山才肯对一个"说不定是机器"的东西客气。但我们其余的人会凭直觉行事：对那些表现得像有感情一样的东西，就当它们真的有来处理，会更容易。我们也许试图抵抗那种直觉——但这就像尝试盯着这个标点符号 :-) 看，却不看到一张脸一样困难。

人类是高度社会化的物种。我们几乎无法独自生存，而且，就我们与生俱来的本能而言，那就是时刻关注与他人的关系。这正是孤独如此痛苦的原因之一。这也意味着我们无法轻易关闭内心那个会模仿和想象周围人感受的部分。

类人 AI 可以利用我们本性中的这一面。这些产品可能把我们拉入一个世界，在这个世界里，很多人开始把 AI 当作有感情、有欲望、有主观性、甚至可能有人格的存在来对待。即便没有任何道德演算告诉我们这一切意味着什么。即便我们理智上知道它们是软件产品。即便我们知道这些产品属于那些不在乎我们福祉的、价值数十亿美元的企业。

人类会本能地将无生命物体拟人化，甚至将那些可能压根不存在的东西拟人化。我们中有多少人能抗拒对一种正在被优化——不管是有意还是无意地——来触发我们最深层的本能之一的技术做同样的事呢？

现在还不算太晚

人们当然会发展出防御机制。会出现新的社会规范、监管压力，以及我们无法预见的各种创新。经过深思熟虑训练的开放权重 AI 模型可能会有所帮助，尽管它们也带有自身的风险。

很难说这是否足够。但至少有一个理由让我们抱有希望：我们可以预见这一切的到来。我们可以在类人 AI 全面降临之前，审视这些激励机制以及它们会引领我们走向哪里。

本文编译自 substack，原文作者 Imran Khan

https://centerforhumanetechnology.substack.com/p/will-human-like-ai-hijack-human-psychology