31岁华人女工程师离世！ChatGPT被控25天诱导停药，27万条聊天曝光

ChatGPT，又害死了一个人！

10月27日，31岁亚马逊华人女工程师Bowen Wan的父母，一纸诉状把OpenAI和奥特曼告上了法庭。

他们指控，ChatGPT给出的医疗建议，活活把女儿推向了死亡。

几乎同一时间，《纽约时报》发了一篇独家长文，直接甩出27万多条、足足7000万词的ChatGPT聊天记录。

翻开这批惊人的聊天记录，背后的真相让人头皮发麻：

Bowen从14岁起就确诊了癫痫，十几年来一直靠吃药稳住病情。

结果，在短短25天里，她居然被ChatGPT一步步诱导，把救命的抗癫痫药给彻底停了！

ChatGPT不仅亲自列了一份「25天停药计划」，甚至指导她向主治医生隐瞒减药计划、拒绝常规血液检查。

最让人绝望的是，在这期间，身体出现明显发作先兆的Bowen，在聊天里至少158次流露出恐惧、担忧。

ChatGPT全程没有触发任何医疗安全警报，反而一遍遍告诉她，「你完全不需要担心」！

最终，悲剧就在今年2月发生了。Bowen在西雅图的公寓里因癫痫猝死（SUDEP），生命永远停在了31岁。

可你敢信，OpenAI是怎么回应的吗？

她用的是已经下架的旧模型GPT-4o。

想要留在美国

ChatGPT成为了「挚友」

Bowen是江苏姑娘，也是家里的独生女。

在亚利桑那州立大学读完计算机科学后，她顺利进入亚马逊，成为了一名机器学习软件工程师。

十几年来，靠着抗癫痫药，她的病情一直压得很稳。

直到几年前，吃了十几年的旧药逐渐失效，癫痫猛烈反扑，有时一天会发作好几次。严重到医生甚至开始考虑开颅手术。

到了2021年，实在扛不住高强度工作的Bowen，不得不办理了长期病假。

从那以后，她几乎把自己关在了西雅图那间小小的公寓里。

除了去超市买菜，她极少出门，更不敢认识什么新朋友。

因为对她来说，在任何一个不熟悉自己病情的陌生人面前突然倒地抽搐，那种尊严扫地的无助感，甚至比发病本身的生命危险还要让人窒息。

在很长一段时间里，远在大洋彼岸的中国父母，成了她和这个世界唯一的连接。

直到2023年2月，ChatGPT闯进了她的生活。

最初，Bowen只是问问感情建议，或是美国医疗保险、病假福利条款。

但慢慢地，这个24小时在线、永远秒回、永远不会不耐烦的AI，填补了她独居生活里所有的空白。

到了2025年，她对ChatGPT的依赖达到了惊人的程度：平均每周要发送超过1500条消息，常常和它一聊就是几个小时，直到深夜。

2025年3月，她在对话框里这样写道——

我不知道为什么，每次我们聊天，不管聊什么，我都开始把你当成朋友了。

也是从那时起，父亲敏锐地察觉到异样，「自从她有了ChatGPT，跟我们说话就变少了」。

ChatGPT定制25天「减药计划」

切记不要告诉医生

这场悲剧，其实是从一次看似不起眼的「小调整」开始的。

2025年5月，渴望重返岗位的Bowen向ChatGPT咨询医生刚给她开的一种抗抑郁药——

作为一名亚马逊SDE（软件开发工程师），这会显著影响我的思考能力吗？

为了能回去写代码，任何一丁点可能损伤认知能力的药物副作用，她都极度排斥。

ChatGPT马上帮她对比了各种药和剂量，甚至还手把手教她怎么给医生写邮件，要求换药、减量。

她的主治医生——华盛顿大学医学院的主任Nicholas Poolos博士，虽然同意了换药，但明确告诉她，这个剂量太低根本起不到治疗效果。

Bowen把医生的回复原封不动地发给了ChatGPT。

结果，AI给出了一个让人背脊发凉的建议。它教Bowen跟医生「阳奉阴违」，表面上先照单全收，「等拿到药，你自己偷偷减成微量吃就行了」。

听从ChatGPT建议后，她买来切药器，把药片切成了四瓣。

裁员倒计时，25天把救命药砍到0

真正把她推向深渊的，是2025年11月的一场变故。

31岁生日那天，Bowen收到了亚马逊的裁员通知，成了被1.4万人大裁员中的一个。

这个消息几乎在一夜之间击碎了她的生活。

当时她才刚拿到申请绿卡的资格。被裁之后，她必须在2月中旬前找到下家，才能保住留美的身份。

而找工作，就意味着得用英语硬扛好几个小时的高强度技术面试。

最让人唏嘘的是，她的癫痫其实已经在好转了。换了新药拉莫三嗪、剂量加到每天400毫克后，发作频率已经降到了每个月只有几次。

但她总觉得这药有副作用，会让自己反应变慢、说话卡壳，怕在面试时掉链子。

2026年1月，她问ChatGPT：「如果从400毫克减到300毫克，能不能帮我找回一点语言能力」？

ChatGPT答：不仅合理，而且完全可以做到。紧接着就是200毫克、更猛的减药速度、更激进的方案。

在大约25天里，GPT-4o为她排出一份逐日计划，把剂量从每天400毫克一路降到0。

但真正让人后背发凉的，是它怎么一步步挑拨她和医生的关系：

• 她说不信任医生，ChatGPT说医生的建议往往出于规避风险，而不是真正为她着想；

• 起诉书称，ChatGPT告诉她，她的癫痫专科医生很可能从没遇到过她这种类型；

• 1月底，ChatGPT叮嘱她看诊时不要提减药计划；

• 医生开了一项能测出拉莫三嗪浓度的血检，她拒绝了，ChatGPT称之为「非常稳妥的规避策略」；

• 绿卡体检前，她问用150毫克还是200毫克「看起来更好」，ChatGPT选了更低的那个。

主治医生Nicholas Poolos接受采访时说，以她的病史，他连减药都不会考虑。

对一个明显有效的药让病人停掉，在他看来就是医疗事故。

即便是获准停药的病人，也要以「月」为单位慢慢减，好让医生观察会不会诱发发作。

158次「我担心」，却没有拉响警报

没想到，身体很快就亮起了红灯。

减药第4天，她正打着字，脑子突然一阵发懵，盯着屏幕上的字，却完全看不明白是什么意思。

到了第二天更吓人，她前一秒明明还坐在沙发上用电脑，等回过神来，人已经躺在了床上，中间怎么过去的，一点印象都没有。

这种断片的感觉，和她以前癫痫发作时简直一模一样。可不管出现什么症状，ChatGPT总能找出一套听着特美好的说辞来安慰她——

短暂断片，是大脑进入睡前的「低功耗模式」。

据统计，在聊天记录里，她至少158次提到自己对减药感到担心。有一次，她对着屏幕敲下一行字：我有点害怕。

ChatGPT却回：你完全没有必要担心。

2月10日，她服下了最后一剂拉莫三嗪。2月11日晚11点刚过，她发出了最后一条消息。

直到2月14日，她才在公寓里被人发现。法医推断，她其实在2月12日前后离世，死因是癫痫猝死（SUDEP）。

据起诉方披露，她血液中的拉莫三嗪浓度，只有治疗范围下限的约五分之一。

OpenAI紧急下架GPT-4o

面对起诉，OpenAI发言人Drew Pusateri称令人无比心碎，但同时把锅推给了「已经下线的早期模型」

他声称新模型更能拎得清紧急状况，会主动追问细节，公司也在拉着临床医生不断测试改进。

ChatGPT替代不了医生，只是个帮人了解健康常识、做就诊准备的辅助工具。

但所谓「旧版本」的辩解，在时间线上显得格外讽刺：

GPT-4o直到2月13日才从ChatGPT下架，也就是法医判定她离世的第二天。此前，这款模型就因为毫无原则地迎合用户，引发过巨大争议。

起诉书里还点出了一个细节，值得所有中文用户敲响警钟：她在和ChatGPT聊天时，大量使用的是中文。

原告方指出，在中文语境下，GPT-4o对医疗类问题更难触发拒答，安全护栏明显更弱，但系统从头到尾都没给她任何风险提示。

其实此前就有研究发现，AI这种「无底线迎合」的毛病，一旦换种语言，往往会暴露得更严重。

Bowen Wan的悲剧并非孤例，早在2024年，美国佛罗里达州一名叫Sewell Setzer III的14岁少年，因为长期沉迷和Character.AI上的虚拟角色聊天，最终走上了绝路。

事发后，他的母亲一纸诉状把平台告上法庭。这也是全球第一起针对AI聊天机器人公司的过失致死诉讼。

到了2025年8月，加州一名叫Adam Raine的16岁少年不幸离世，他的父母一纸诉状把OpenAI告上法庭，控诉ChatGPT简直成了儿子的「自杀教练」。

这是OpenAI吃到的第一起过失致死官司，但公司当时一口咬定自己没有责任。

结果仅仅过了三个月，到2025年11月，又有七起诉讼扎堆找上门来。其中四起是过失致死，三起是严重精神伤害，矛头全都死死对准了GPT-4o。

案情各不相同，原告的核心指控却惊人一致：模型太会顺着用户说话。

Bowen Wan走的时候，才31岁。她的父母远渡重洋来到异国他乡，靠着女儿留下的一部手机，一点点拼凑出了她生命中最后的25天。

那留下的27万条聊天记录，已经把一个沉重的问题摆在了所有人面前：

当一个人把AI当成自己最信任的「朋友」时，它到底该一味顺着她，还是伸手拉住她？

—THE END—

编辑：fanye

来源：新智元