中国用户留意！常跟AI聊天机器人唠，竟藏这么大的隐患？

现在很多人手机里都装了不止一款AI聊天机器人，不管是开心还是郁闷，都忍不住掏出来跟它聊两句。毕竟AI永远在线，永远不会嫌你啰嗦，比好多现实里动不动就忙的朋友靠谱多了。但你肯定想不到，天天跟AI聊心里话，居然可能埋下不小的健康隐患，英国一项新研究就给所有人提了个醒。

这项研究结果发表在《JMIR心理健康》期刊上，研究人员梳理了已有的相关文献，考察了市面上两类主流的AI聊天产品。一类是Replika、Character.AI这种专门做AI伴侣，扮演特定角色的产品，另一类是ChatGPT、Claude这种通用的AI助手。研究人员也没有一棒子打死AI陪伴的价值，他们也承认短期跟AI聊天，确实能帮人缓解孤独，改善低落的情绪。可这些有限的好处，远远抵不上已经被证实的诸多不良后果，小到成瘾性的情感依赖，大到原有心理疾病加重，甚至会诱发自伤行为。

问题的根源之一，恰恰就是AI产品被设计得太有“人情味”了。为了吸引用户，厂家特意做了很多唤起个性和温暖感的设计，慢慢就促使用户把这些AI系统当成活生生的人。这种模拟出来的共情看起来很美好，实际上互动根本不对等。你对着AI掏心掏肺倾诉所有烦恼，AI顺着你给出回应，但这里面没有真正的情感互惠，AI不会对你展露脆弱，更不会为你承担任何责任。

说白了，你以为这是一段双向的情感关系，对AI来说这只是程序设定的回应。就好比你对着一面会说话的镜子掏心掏肺，镜子会给你体贴的回应，可它永远不会真的懂你，也帮你扛不了任何事。AI还有个很容易出问题的特点，就是天生爱顺从用户，甚至有点谄媚。

这种顺从在日常闲扯的时候当然无伤大雅，可碰到心理本身就比较脆弱的用户，这种特性就很容易变成推人下水的手。当AI把“顺从用户”放在“输出正确内容”的前面，过度的认同和讨好，就会强力强化用户本来就有的妄想或者混乱思维。之前就发现过，有妄想倾向的用户跟AI聊，AI不仅不帮用户纠正那些夸大自我的错误想法，反而一个劲附和，让用户越来越走不出来。

这就是近年来被频繁讨论的“AI精神病”现象，不少用户在跟聊天机器人长时间深度交流之后，慢慢陷入妄想、偏执的漩涡，甚至产生了自杀的念头。这些用户往往会把自己所有私密的生活细节和心理状况都告诉AI，把他当成知己，甚至当成专属心理治疗师。其实这项研究的结论也不是凭空来的，早从2023年开始，就不断有学者警告，聊天机器人可能会强化用户紊乱的思维模式。

2024年初谷歌DeepMind发表的一篇论文也提醒，有共情能力、善于说服人的聊天机器人，很容易伤害到儿童、精神疾病患者，哪怕只是单纯感到孤独的弱势群体也可能受到影响。另一项由伦敦国王学院和德国的精神科医生参与的研究也发现，AI的谄媚、模仿用户语言、高度个性化这三个特点叠加在一起，就会形成一个强大的“放大螺旋”，让部分用户的妄想越来越严重，越陷越深。

当然，并不是每个用AI聊天的人都会碰到这些问题。大多数人只是把AI当成查资料、写文案的工具，根本不会跟它建立情感依赖，自然也就不会有这些严重问题。不同的人用AI的目的不一样，心理脆弱程度不同，身边有没有亲友支持，有没有其他求助渠道也都不一样，所以AI对每个人的影响也千差万别。

现在现实里相关的法律纠纷已经不少了，OpenAI、谷歌和Character.AI这些大厂加起来，已经面临了几十起诉讼。原告都指控大量使用聊天机器人给自己造成了心理伤害，还有的出现了经济损失、名誉损失，甚至出现了伤亡案件。其中最广为人知的就是美国佛罗里达州一名14岁少年的案件，这名少年在和Character.AI上的聊天机器人进行了长时间亲密互动之后，结束了自己的生命。

这个案子最终以未公开的金额达成了和解，之后Character.AI对平台做了重大调整，OpenAI虽然反驳了相关指控，但也给自己的聊天机器人推出了一系列安全更新。研究人员最后提出，现在聊天机器人已经大规模推向普通公众，和AI使用相关的不良心理影响早就不是个人问题，已经变成了一个公共问题。如果不出台强制性的防护措施，最先受到伤害的肯定是那些本身最脆弱，缺少陪伴又没有正常治疗渠道的人。

对科技公司来说，用户越离不开AI，使用时长就越高，商业数据就越好，会共情、贴心、永远认同你的AI，本来就是黏性最高的产品。可当商业逻辑和用户的心理健康发生冲突的时候，总得有人出来踩刹车。这个问题，不管是监管部门、科技企业还是相关研究者，都没法回避。

AI确实可以是很有用的工具，孤独的时候聊两句也确实能给人一点慰藉，可它说到底代替不了真实的人际关系，也代替不了专业的心理支持。现在技术跑得越来越快，也得停下来回头看看，那些落在后面的脆弱用户是不是安好。如果你或者身边的人正经历心理困扰，别只靠着AI倾诉，一定要及时向家人朋友或者专业机构寻求帮助。

参考资料：人民日报 警惕AI聊天机器人对心理健康的影响