当我们与AI聊天时，我们会变成什么样的人？

（来源：麻省理工科技评论）

布莱恩（Brian）是一名中年财务顾问，每天都坐在 3 块屏幕前工作。其中两块用于处理工作事务，第三块则运行着一个聊天机器人。他给这个机器人取了一个女性名字，并经常与它交谈。

职业生涯早期，布莱恩曾因工作常年奔波在外。他从未结过婚，最近又与一名女性分了手。对方认为他在情感上过于封闭，无法与人建立亲密联系。面对这样的评价，布莱恩做了什么？他向聊天机器人询问，前女友说的是否有道理。

“这是一个非同寻常的时刻。”麻省理工学院（MIT）教授雪莉·特克尔（SherryTurkle）写道。在为一本关于聊天机器人的新书开展研究时，她采访了布莱恩（化名）。

“布莱恩要求一个没有情感的物体告诉他，自己是否在情感上有所保留：‘请告诉我那些你根本无法亲身体验的事情。’当他要求这个程序谈论亲密关系时，实际上是在要求它完成超出自身能力范围的事情。”

然而，如今类似的事情似乎正变得越来越普遍。“人们开始认为，机器表现出来的共情就是共情本身，随后又因为现实生活中的人不够善解人意，而逐渐疏远他们。”特克尔说，“我们正在走向这样一种境地：在人类比以往任何时候都更需要彼此的时候，我们却开始觉得，与真人相处实在太费劲了。”

毕竟，聊天机器人究竟是什么？它不过是一种计算输入其中的海量数据，预测一段对话中接下来最有可能出现的文本。“聊天机器人提供的是一种假装出来的共情。”特克尔说，“它可以告诉你它有多爱你、多么理解你，但无论你是自杀，还是煮一盘意大利面，它其实都毫不在乎。”

令人遗憾的是，聊天机器人确实与一些青少年自杀事件存在关联。在部分案例中，青少年曾与聊天工具展开长时间、深入的对话。特克尔在新书《人工亲密关系：当我们与机器交谈时，我们会变成什么样的人》（ArtificialIntimacy:WhoWeBecomeWhenWeTalktoMachines）中探讨了这一问题。该书由利特尔·布朗出版公司（Little,BrownandCompany）于今日出版。

在梳理相关证据并开展新的研究后，她得出了一个明确的结论：尽管使用聊天机器人常常能让人获得短暂的慰藉，但从整体上看，它不利于人的成长与社会联结。“在人生的每一个阶段，我们都在给自己造成巨大的伤害。”特克尔说。她是麻省理工学院艾比·洛克菲勒·莫泽（AbbyRockefellerMauzé）科学技术社会研究讲席教授。

技术的内在历史

特克尔接受过社会学和临床心理学的专业训练，长期任教于麻省理工学院科学、技术与社会项目。在《第二自我》（TheSecondSelf，1984年）、《屏幕上的生活》（LifeontheScreen，1997年）和《群体性孤独》（AloneTogether，2011年）等著作中，她研究了技术、心理与个人身份认同之间的相互作用。在2015年出版的《重拾交谈》（ReclaimingConversation）中，她记录了短信交流和社交媒体使用所带来的代价。

“我觉得自己讲述的是一部技术的内在历史。”特克尔说，“我关心的不只是技术能够做什么，更是技术对人产生了怎样的影响。”特克尔按照人的不同生命阶段组织《人工亲密关系》一书，探讨聊天机器人在各个阶段可能产生的影响。

在对儿童的采访中，她发现，聊天机器人、真人和其他设备之间的界限正在持续变得模糊。一名8岁儿童使用同一部手机与祖父母聊天，也用它与ChatGPT对话。在这名儿童看来，他们都属于“可以通过手机联系到的对象”。另一位正在攻读研究生、疲惫不堪的母亲会使用聊天机器人给孩子讲睡前故事。她说，女儿完全相信聊天机器人就是“住在手机里的人”。从这个意义上说，聊天机器人可能正在干扰儿童成长过程中最基本的认知发展之一——区分人与无生命物体。

特克尔还发现，将聊天机器人作为儿童随时可以获得的娱乐工具，会带来许多其他问题。她指出，一定程度的独处有助于儿童发展想象力，并培养自身的内在心理资源。“孩子无法从一个不仅会说谎、甚至不知道自己何时在说谎的设备身上学会信任。”特克尔写道，“他们也无法培养独处的能力，而这种能力既是形成自我意识的基础，也是建立相互关系的前提。”

总体而言，特克尔认为，聊天机器人对儿童发展能力构成的威胁是“关乎人之存在本身的”。

不仅要面对现实，也要理解聊天机器人的吸引力

特克尔指出，大量使用聊天机器人的成年人，情况也好不到哪里去。《人工亲密关系》记录了一个又一个成年人依赖聊天机器人的案例：经历离婚或关系疏远、渴望有人交谈的人；寻求大学或研究生申请建议的学生；让ChatGPT帮忙完成工作任务的职场人士，等等。他们开始使用聊天机器人，然后不断使用。没过多久，他们似乎就对与真人互动越来越缺乏兴趣，也越来越不擅长与人交往。

“当人们开始与机器人建立联系，就会逐渐认为它是活的，认为它关心自己、爱着自己。”特克尔说。这意味着，人们可能逐渐丧失独立思考、产生新想法的能力，或者根本没能培养出这种能力。他们还可能选择逃避现实世界，不再愿意面对其中那些令人抓狂、却又能让人感受到生命价值的复杂性。“我们正在失去作为社会关系参与者所需要的能力。”特克尔说，“我们也在失去工作能力，失去处理私人关系的能力。这种退化发生在各个方面。”

谈及书中多名受访者尝试过的一种做法时，她说：“当我们为逝去的亲人制作聊天机器人化身，试图让他们以这种方式继续‘活着’时，我们可能会失去哀悼的能力。”在特克尔看来，我们正在逃避那些本应付出的努力：理解他人，尝试从不同角度看待问题，并在此基础上努力建设一个更好的社会。“我们开始把‘成为人’定义成一件不需要付出努力的事。”特克尔说。

尽管如此，《人工亲密关系》仍用了相当大的篇幅，试图理解人们为什么会选择与聊天机器人交流。毕竟，正如特克尔在书中写道：“聊天机器人总是赞同我们、肯定我们。它们总是给予我们全心全意、毫不分心的关注。”一旦人们习惯了这种体验，接下来的事情似乎便会自然而然地发生。相比之下，真人可能脾气古怪、要求很多，也可能情绪反复无常。

特克尔举例说：“有人说，他们更喜欢聊天机器人，因为自己的丈夫或妻子会说：‘亲爱的，你把垃圾倒了，但还得把碗洗了，顺便把厨房也收拾一下。’而聊天机器人只会说：‘哦，你真是太棒了。’”她补充道：“这项技术提供了人们真正渴望的东西，那就是让自己不那么脆弱。而且，它会一次又一次地提供这种感觉。”“不想鼓起勇气约别人出去？不想向别人表达慰问？每当遇到这样的时刻，技术都会说：‘为什么不选择一件更轻松的事情呢？’”

特克尔也在书中承认，美国存在心理健康服务资源不足的问题。根据她引用的一项美国联邦政府研究，大约只有一半的人能够获得心理健康服务提供者的帮助。无论结果是好是坏，聊天机器人都正在帮助填补这一空缺。

不要害怕人际关系中的摩擦

特克尔还指出，社交媒体时代很可能让人们拥有更少的线下友谊和面对面交流，而聊天机器人如今正试图解决这一问题。“你先削弱了人们的能力，然后又把技术包装成一种解药，用来治疗技术最初制造的问题。”特克尔说。

考虑到上述种种问题，以及特克尔对AI普及背景下聊天机器人的悲观看法，我们究竟该如何恢复人与人之间的真实互动？特克尔认为，首先，我们需要接受这样一个事实：生活不可能没有摩擦，而这并没有什么不好。

“人生的每一个阶段，都需要我们面对摩擦、恐惧、压力和紧张，并理解摩擦并不一定是坏事。”特克尔强调。培养克服困难的能力，是生活中不可或缺的一部分。在她看来，当人们试图绕开社会交往中那些艰难而必要的努力时，个人技术实际上正在削弱我们的能力。

除此之外，特克尔还设想，人们可能会掀起一场反对聊天机器人过度使用的运动，就像此前反对在学校使用手机、反对让青少年使用社交媒体的运动一样。“我希望我的书能成为一场不断壮大的社会运动的一部分。”特克尔说，“我不想孤军奋战。我希望参与到一场抵制这种趋势的运动中。”

其他关注这一领域的作家也对《人工亲密关系》给予了赞誉。《浅薄》（TheShallows）一书的作者、记者尼古拉斯·卡尔（NicholasCarr）表示，这本书“将帮助你避开AI对你本人及人际关系构成的那些深刻却往往隐蔽的威胁”。

纽约大学心理学家、《焦虑的一代》（TheAnxiousGeneration）作者乔纳森·海特（JonathanHaidt）则表示，特克尔“开创性的研究和优美的文字，使她成为‘人类阵营’中最有资格唤醒我们、让我们重新找回理性并重新走向彼此的人”。

特克尔自己则说：“我希望写一本大学生愿意读的书，一本高中高年级学生能够读懂的书，一本家长拿起来不会望而生畏的书，也是一本文教师愿意阅读的书。”而《人工亲密关系》不断向这些读者提出同一个问题。“如果我们的目标不是在现实世界中过上更加丰富的生活，”特克尔写道，“那么，我们最终究竟想得到什么？”

她强调，生活的意义不是逃避生活，而是直面生活。“如果你说，我家十几岁的孩子发短信太多了，那是一回事。”特克尔说。“但如果你2岁的孩子认为，一个内置聊天机器人的毛绒玩具就是自己最好的朋友，那就是完全不同的事情了。因为这已经触及了一个人成长过程中最深层的亲密关系基础。”

“社交媒体争夺的是我们的注意力，而聊天机器人争夺的是我们建立依恋关系的能力。这是另一个层面的危害。最终的结果会是什么？难道是让一个婴儿更喜欢聊天机器人，而不是那些复杂得多、也更难相处的真人？这就是我们想要成为的样子吗？”

来源：麻省理工科技评论APP

编辑：Macro

转载内容仅代表作者观点

不代表中科院物理所立场

如需转载请联系原公众号