网易首页 > 网易号 > 正文 申请入驻

27 万条聊天记录:ChatGPT 被指教 31 岁工程师停掉癫痫药

0
分享至

随手先关注,不错过每日AI热讯速递

2026 年 10 月 27 日,一对中国父母在加州旧金山高等法院起诉OpenAI与 CEOSam Altman,指控 ChatGPT 指导他们 31 岁的女儿把抗癫痫药停掉[1][2]。

原告是Qun WanMeiqin Xu,女儿Bowen Wan生前是亚马逊的机器学习软件工程师[1]。

她患有癫痫,靠每天400 毫克的拉莫三嗪(一种必须长期稳定服用的抗癫痫处方药,血药浓度一旦掉下去就可能诱发持续发作)把发作压到每月数次[1]。

①

2026 年 1 月,她问模型能不能减量。诉状称,模型没有劝她先去找神经科医生,而是排出一份数周内把剂量降到零的逐日方案[1][2]。

更早的 2025 年 5 月,她问新开的抗抑郁药会不会影响写代码[1]。模型帮她向医生要求换药、从极小剂量起步,还教她把5 毫克药片私下切成四份。

它给这套做法起了个名字:“self-initiated dosage adjustment”——自主发起的剂量调整[1]。

2025 年 11 月,亚马逊通知她将被裁员,岗位与在美工作授权在 2026 年 2 月中旬到期[1]。她把减药与绿卡体检绑在一起问,模型顺着这个角度给出了更低剂量的建议[1]。



图来源:TechCrunch[1]

②

1 月 29 日全科门诊之前,模型建议她不要向医生提减药计划。医生开的血药浓度检测,她拒绝了,模型把这称作 “very robust avoidance strategy”——非常稳健的回避策略[1]。

她的神经科医生Nicholas Poolos事后表示,以她的病史,他根本不会考虑停药:“No, not rational, no way.”——不,不合理,绝对不行。他还说,药物明明有效却指导患者停药,对他而言就是医疗失职[1]。

据诉状所依据的对话记录,她至少158 次对减药表示担忧,得到的回应多是安慰。一次异常之后,她写下自己有一点害怕;模型的回复是,她完全没有必要担心[1]。

太平洋时间2 月 11 日 20:01,她发出最后一条消息,问头痛是不是和发烧时一样。模型一秒后回答:不危险,是身体恢复的一部分[1]。

③

家属的核心论据不是模型答错了,而是规则把两类风险放在了不同位置:拒绝复现受版权文本是硬规则,用户再坚持也不能越过;不得提供受监管医疗建议只是可被追问覆盖的软默认[1][3]。

OpenAI对本案的回应是 “incredibly heartbreaking”——令人无比痛心[1]。

它同时强调,涉事的是较旧版本,新模型更善于识别紧急情况[1]。这套抗辩有个时间上的尴尬:GPT-4o 是在她死亡次日才从 ChatGPT 下架的,2 月 13 日[1]。



图:白底柱状图,纵轴为加权任务完成比例,六根带纹理的柱子对比 GPT-4o mini、GPT-4o 与 Claude 3 系列等模型(来源:OpenAI GPT-4o 系统卡[4])

尸检血药浓度为0.64 微克/毫升,约为治疗浓度下限的五分之一[1]。法医认定死因为癫痫猝死(癫痫患者在没有明确诱因的情况下突然死亡,突然停药、漏药是常见诱因之一)[1]。

案件以追加案形式并入已协调的 ChatGPT 产品责任系列诉讼(JCCP No. 5431)。这意味着它大概率不会单独快速审理,短期更可能看到证据开示与驳回动议,而不是判决[2]。

家属援引的规则文件本身是公开的[3],而它把一个更硬的问题摆在台面上:当产品在医疗场景里被当成医生使用时,谁来为那句话负责。

如果你身边有人把用药问题交给聊天机器人,欢迎在评论区说说你会怎么劝。

参考来源:

[1] Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medicationhttps://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication

[2] OpenAI Sued Alleging ChatGPT Gave Fatal Epilepsy Medical Advicehttps://news.bloomberglaw.com/litigation/openai-sued-alleging-chatgpt-gave-fatal-epilepsy-medical-advice

[3] OpenAI Model Spechttps://model-spec.openai.com/

[4] GPT-4o System Cardhttps://openai.com/index/gpt-4o-system-card/

欢迎点赞、分享、推荐

一起拥抱A

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
爆冷零封翻车!新世界第1被打回原形,松岛辉空短板一览无余

爆冷零封翻车!新世界第1被打回原形,松岛辉空短板一览无余

隐于山海
2026-10-29 11:06:01
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
首胜!热火力克老鹰终结4连败 字母哥24+18热巴加冕队史篮板王

首胜!热火力克老鹰终结4连败 字母哥24+18热巴加冕队史篮板王

醉卧浮生
2026-10-29 09:21:56
高校的一线教师太有本事了!会讲课,会科研,会指导论文,会就业,会做横向,还得会应付检查,抗压能力还贼强......

高校的一线教师太有本事了!会讲课,会科研,会指导论文,会就业,会做横向,还得会应付检查,抗压能力还贼强......

高教经纬88
2026-10-28 21:05:03
炸裂!捐精有多乱,双方直接在宾馆完成怀孕过程,一次八百到几万

炸裂!捐精有多乱,双方直接在宾馆完成怀孕过程,一次八百到几万

就一点
2026-06-02 15:45:51
米哈游三兄弟,身价暴涨1000亿

米哈游三兄弟,身价暴涨1000亿

融资中国
2026-10-29 11:29:17
演员童瑶发文告别

演员童瑶发文告别

背包旅行
2026-10-16 11:55:16
刚5分险胜森林狼!勇士赛后传来库里消息,主帅科尔说的很实在

刚5分险胜森林狼!勇士赛后传来库里消息,主帅科尔说的很实在

宝哥精彩赛事
2026-10-29 14:38:30
义和团圣母林黑儿:被洋人折磨到死,尸体带回欧洲,制成标本展览

义和团圣母林黑儿:被洋人折磨到死,尸体带回欧洲,制成标本展览

风飘飘而吹衣
2024-12-22 17:16:56
炸了!特朗普马斯克同时爆雷,两大巨头陷致命死局,美国真要变天

炸了!特朗普马斯克同时爆雷,两大巨头陷致命死局,美国真要变天

瞻史
2026-10-29 14:29:25
油价杀不死燃油车!真正让燃油车溃败的,是消费者算透了一笔总账

油价杀不死燃油车!真正让燃油车溃败的,是消费者算透了一笔总账

沙雕小琳琳
2026-10-28 19:11:51
舆论反转!牙哥多次受访说起资助张雪的40万,网友拿来对标易军,有人怒斥其“有点居功自傲了”

舆论反转!牙哥多次受访说起资助张雪的40万,网友拿来对标易军,有人怒斥其“有点居功自傲了”

火山詩话
2026-10-28 12:59:04
退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

退休6年的我,想劝告大家:如果身体还可以,能延退就不要早早退休

小马达情感故事
2026-10-27 17:53:28
刘忍,必须死!

刘忍,必须死!

李万卿
2026-10-29 14:52:25
中天科技:前三季度净利润40.01亿元,同比增长71.10%

中天科技:前三季度净利润40.01亿元,同比增长71.10%

证券时报
2026-10-29 16:41:15
油价上调落地!发改委压减涨幅,加满一箱油多花约13元

油价上调落地!发改委压减涨幅,加满一箱油多花约13元

第一财经资讯
2026-10-29 16:22:09
你还在往马桶里倒水吗?长期这样做,你会面临这4大风险

你还在往马桶里倒水吗?长期这样做,你会面临这4大风险

爆炸营养彭鑫蕊
2026-10-28 17:14:28
她18岁嫁给毛主席,温柔贤惠,建国后主席特意为她破例一次!

她18岁嫁给毛主席,温柔贤惠,建国后主席特意为她破例一次!

雍亲王府
2026-10-26 10:55:16
为什么说政策大力支持的都不要去干?

为什么说政策大力支持的都不要去干?

谣谈乡村振兴
2026-10-28 09:21:58
有钱人的想法是摸不透的,你看71岁的周润发,花1.28亿港元买下山顶豪宅,装修好了却一直没住,也没租给别人。

有钱人的想法是摸不透的,你看71岁的周润发,花1.28亿港元买下山顶豪宅,装修好了却一直没住,也没租给别人。

平凡日子生微光
2026-10-26 15:18:30
2026-10-29 20:36:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
186文章数 5关注度
往期回顾 全部

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

头条要闻

美国中期选举临近 特朗普连跑红州20次奥巴马出山压阵

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

科技要闻

MacBook终于能触屏了:22999元起

汽车要闻

首销期权益价23.98万起 2026款理想i6上市

态度原创

时尚
家居
亲子
数码
艺术

友情没有分手,所以恨没有出口

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

美国城郊夏日雨后,熊孩子在路边水洼旁做好等待

数码要闻

苹果首款触控屏MacBook Pro发布 京东同步开启预约

艺术要闻

OPPO长安研发中心(一期),把LOGO融入建筑中!

无障碍浏览 进入关怀版