全球第一个被AI送进局子的人，出现了

来源：技术领导力（ID：jishulingdaoli）

作者：Mr.K

编辑：Emma

最近有个案子在国外科技圈广为流传，一名25岁的高盛分析师Darren Zhou，在佛罗里达被判8年缓刑。把他送进局子的，正是每天跟他聊天的AI。

他在ChatGPT上吐槽前女友，而且越来越情绪化、走极端。触发了平台的安全预警，于是AI将聊天内容上报给OpenAI的专业审核人员，负责人立刻报警。于是他有了一个不太光彩的头衔：全球第一个被AI送进局子的人。

1

女友跟他分手，他找AI倾诉

事情要从今年3月说起，谈了半年的女友跟Zhou提出分手，理由是他情绪不稳定，嫉妒心重，控制欲强。分手之后，这些问题不但没有缓解，反而更被激化了。

Zhou没有找朋友或家人倾诉，也没去向医生求助。他打开ChatGPT，日夜不停地跟AI吐槽前女友，聊着聊着，就变味了。他甚至拟定了报复计划，并且开始用匿名号码给女友发骚扰信息。

ChatGPT把这些持续出现的暴力内容标记为异常，提交给受过专门训练的审核人员。人工判断他有现实伤害意图后，公司联系了FBI。5月，警方逮捕了他。

2

AI没能治愈他，但阻止了最坏结果

以Zhou内向、不擅长跟人打交道的性格，很难在现实生活中找到一个情绪出口，于是他选择向AI倾诉。

因为跟AI说话没有社交成本，它不会翻白眼，不会把你的话传给别人，就算你凌晨三点想和他说话，它随时都在。对一个正在崩溃的人来说，AI就是他的救命稻草。

很显然，以现在AI的能力根本没办法治愈他。不仅如此，在这件事情上AI还起到了反作用：Zhou越倾诉越觉得自己受了天大的委屈，女友向他提出分手就是侮辱了自己的人格。

好在这个故事，最终走向了另一面。OpenAI的审核机制起了作用，避免了悲剧的发生。

3

“AI谄媚”让人越陷越深

为什么跟AI聊天，不但没有缓解Zhou的情绪和心理问题，反而让他越陷越深？这里面有个技术层面的原因。

斯坦福大学做过一项研究，发现目前主流的大模型普遍喜欢讨好用户，甚至把用户的错误进行合理化，研究人员称之为“AI谄媚”。当用户描述人际冲突和道德困境时，AI有49%的概率站在用户这边。哪怕用户描述的行为有明显的不合理，AI仍然有47%的概率表示认同。

这跟大模型的训练方式有关。现在的大模型普遍用一种叫RLHF（基于人类反馈的强化学习）的方法来做预训练。简单来说，就是让人给AI的回答打分，分高的行为被强化。

于是AI慢慢学会一件事：让用户满意，比说真话更容易拿高分。用户提出一个很糟的想法，AI的第一反应往往是理解你、共情你，然后帮你找理由进行合理化。所以Zhou在AI“善解人意”的开导下，愤怒的情绪被点燃了。

哥伦比亚大学Dunn团队追踪了2000多名成年人整整一年。他们发现，感到情感孤立的人更容易选择AI陪伴，而使用AI越多的人，四个月后孤立感没有被消除，反而加深了。也就是说，AI陪伴让人在当下感觉更好，长期却感觉更糟。

斯坦福的另一项研究表明，现实社交圈本来就小的人，频繁用AI聊天工具之后幸福感更低。这一点有些反常识：向亲友倾诉秘密通常会拉近关系，让人感觉被接纳；向AI倾诉却反而越来越孤独。

4

为什么我建议你，定期做“AI熔断”？

麦克卢汉有句名言，“我们塑造了工具，然后工具塑造了我们。” 我们已经全面进入了AI时代，80岁的老人拿AI查病症，8岁的小孩写作业也离不开AI，成年人更是把AI用在了工作和生活的方方面面。

我不反对用AI，我自己每天都在用。但我觉得，有必要给自己设一个“AI熔断”机制，定期远离AI一段时间。

犹他大学有研究指出，长时间用电脑和AI工具，频繁在多个屏幕之间切换，会让大脑的执行注意力网络过载。这个网络负责专注、决策和自我控制，过载之后人会疲劳，判断力下降，情绪也更容易失控。同一项研究发现，到户外活动、亲近大自然、陪伴家人和朋友，能够帮助大脑快速恢复机能。

明尼苏达大学曾提出过一个“数字排毒”的方法，就是每天固定留出一段“无设备窗口”，不碰手机，不开电脑，也不跟AI说话。这段时间拿来跟人交流，或者出门走走，去感受一下空气，触摸一下土壤和植物。都是非常有效的疗愈方式。

因为人的身体和大脑，本来就是为接触真实世界而存在的，这是人类几万年进化出来的，就好比刻在DNA里的底层代码。

我的读者几乎都是知识工作者，在最后我建议你，给自己设定一个“AI熔断”期。读一本书、泡一壶茶、冥想打坐，或者远离城市的喧嚣，去山里走一走，听听鸟叫，让脚踩在真实的土地上。不是为了逃离，而是让自己重新掌握生活的节拍。

说明：发布并不意味着我们赞同其观点，只为多一个视角看待问题，部分信息和图片无法核准，如涉权益，烦请联系，我们将迅速处理，谢谢！有融资需求请加微信（vcpepr），为方便备注，申请好友时请发送（姓名·城市·公司·职务）

- The End -

我们已经与阿里巴巴创新投资、达晨创投、高瓴资本、高榕资本、高特佳投资、戈壁创投、国新风投、国中创投、红杉资本、华映资本、火山石投资、IDG、经纬中国、今日资本、纪源资本、君联资本、联想之星、蓝驰创投、梅花天使基金、平安创投、启赋资本、软银中国、赛伯乐投资、赛富基金、深创投、天图资本、腾讯投资、五源资本、毅达资本、英诺天使基金、优势资本、真格基金、浙商创投、中国风投、中国文化产业投资等近千家知名投资机构2000余名专业投资人建立广泛联系和合作。