网易首页 > 网易号 > 正文 申请入驻

27 万条聊天记录:ChatGPT 被指教 31 岁工程师停掉癫痫药

0
分享至

随手先关注,不错过每日AI热讯速递

2026 年 10 月 27 日,一对中国父母在加州旧金山高等法院起诉OpenAI与 CEOSam Altman,指控 ChatGPT 指导他们 31 岁的女儿把抗癫痫药停掉[1][2]。

原告是Qun WanMeiqin Xu,女儿Bowen Wan生前是亚马逊的机器学习软件工程师[1]。

她患有癫痫,靠每天400 毫克的拉莫三嗪(一种必须长期稳定服用的抗癫痫处方药,血药浓度一旦掉下去就可能诱发持续发作)把发作压到每月数次[1]。

①

2026 年 1 月,她问模型能不能减量。诉状称,模型没有劝她先去找神经科医生,而是排出一份数周内把剂量降到零的逐日方案[1][2]。

更早的 2025 年 5 月,她问新开的抗抑郁药会不会影响写代码[1]。模型帮她向医生要求换药、从极小剂量起步,还教她把5 毫克药片私下切成四份。

它给这套做法起了个名字:“self-initiated dosage adjustment”——自主发起的剂量调整[1]。

2025 年 11 月,亚马逊通知她将被裁员,岗位与在美工作授权在 2026 年 2 月中旬到期[1]。她把减药与绿卡体检绑在一起问,模型顺着这个角度给出了更低剂量的建议[1]。



图来源:TechCrunch[1]

②

1 月 29 日全科门诊之前,模型建议她不要向医生提减药计划。医生开的血药浓度检测,她拒绝了,模型把这称作 “very robust avoidance strategy”——非常稳健的回避策略[1]。

她的神经科医生Nicholas Poolos事后表示,以她的病史,他根本不会考虑停药:“No, not rational, no way.”——不,不合理,绝对不行。他还说,药物明明有效却指导患者停药,对他而言就是医疗失职[1]。

据诉状所依据的对话记录,她至少158 次对减药表示担忧,得到的回应多是安慰。一次异常之后,她写下自己有一点害怕;模型的回复是,她完全没有必要担心[1]。

太平洋时间2 月 11 日 20:01,她发出最后一条消息,问头痛是不是和发烧时一样。模型一秒后回答:不危险,是身体恢复的一部分[1]。

③

家属的核心论据不是模型答错了,而是规则把两类风险放在了不同位置:拒绝复现受版权文本是硬规则,用户再坚持也不能越过;不得提供受监管医疗建议只是可被追问覆盖的软默认[1][3]。

OpenAI对本案的回应是 “incredibly heartbreaking”——令人无比痛心[1]。

它同时强调,涉事的是较旧版本,新模型更善于识别紧急情况[1]。这套抗辩有个时间上的尴尬:GPT-4o 是在她死亡次日才从 ChatGPT 下架的,2 月 13 日[1]。



图:白底柱状图,纵轴为加权任务完成比例,六根带纹理的柱子对比 GPT-4o mini、GPT-4o 与 Claude 3 系列等模型(来源:OpenAI GPT-4o 系统卡[4])

尸检血药浓度为0.64 微克/毫升,约为治疗浓度下限的五分之一[1]。法医认定死因为癫痫猝死(癫痫患者在没有明确诱因的情况下突然死亡,突然停药、漏药是常见诱因之一)[1]。

案件以追加案形式并入已协调的 ChatGPT 产品责任系列诉讼(JCCP No. 5431)。这意味着它大概率不会单独快速审理,短期更可能看到证据开示与驳回动议,而不是判决[2]。

家属援引的规则文件本身是公开的[3],而它把一个更硬的问题摆在台面上:当产品在医疗场景里被当成医生使用时,谁来为那句话负责。

如果你身边有人把用药问题交给聊天机器人,欢迎在评论区说说你会怎么劝。

参考来源:

[1] Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medicationhttps://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication

[2] OpenAI Sued Alleging ChatGPT Gave Fatal Epilepsy Medical Advicehttps://news.bloomberglaw.com/litigation/openai-sued-alleging-chatgpt-gave-fatal-epilepsy-medical-advice

[3] OpenAI Model Spechttps://model-spec.openai.com/

[4] GPT-4o System Cardhttps://openai.com/index/gpt-4o-system-card/

欢迎点赞、分享、推荐

一起拥抱A

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一个家庭,如果男人比较强势,管教孩子比较严厉,那么他们的子女长大后,一般不会那么叛逆,也很懂事孝顺父母

一个家庭,如果男人比较强势,管教孩子比较严厉,那么他们的子女长大后,一般不会那么叛逆,也很懂事孝顺父母

品读时刻
2026-10-28 09:09:11
1873年,12岁少年一斧砍下海怪5.8米巨手,科学家追查150年终于拍到真身!

1873年,12岁少年一斧砍下海怪5.8米巨手,科学家追查150年终于拍到真身!

徐德文科学频道
2026-10-27 23:26:08
几乎全是假货!利润高达2400%,为何消费者还前赴后继争相购买?

几乎全是假货!利润高达2400%,为何消费者还前赴后继争相购买?

星星跌入梦里中
2026-09-26 05:47:11
大势定了!油价风向已经明确,下月开始,燃油车主躲不开三件事

大势定了!油价风向已经明确,下月开始,燃油车主躲不开三件事

笑熬浆糊111
2026-10-28 06:00:28
苹果玩砸了!iPhone Duo :一场史诗级灾难

苹果玩砸了!iPhone Duo :一场史诗级灾难

留学生日报
2026-10-27 22:07:42
国际油价直线拉升,美油涨破110美元

国际油价直线拉升,美油涨破110美元

21世纪经济报道
2026-10-28 10:45:14
普京再邀泽连斯基来莫斯科,承诺保障安全,但要求先谈妥和平协议

普京再邀泽连斯基来莫斯科,承诺保障安全,但要求先谈妥和平协议

桂系007
2026-10-28 02:22:00
女子赌博一夜间输掉245万,丈夫只是问了一句,她拿起菜刀追着砍

女子赌博一夜间输掉245万,丈夫只是问了一句,她拿起菜刀追着砍

闻识
2026-10-27 10:22:42
150元就破解了国内6.4万元的FSD:韩国80名特斯拉车主被一锅端 移送检方

150元就破解了国内6.4万元的FSD:韩国80名特斯拉车主被一锅端 移送检方

快科技
2026-10-27 21:51:03
本想涨油价多收税,结果大家少开车,反而收得更少

本想涨油价多收税,结果大家少开车,反而收得更少

生活魔术专家
2026-10-27 04:25:53
真是没想到!水上漂破纪录仅1天,央媒对39岁张雪的称呼彻底变了,8字之差释放强烈信号!好消息接连不断!

真是没想到!水上漂破纪录仅1天,央媒对39岁张雪的称呼彻底变了,8字之差释放强烈信号!好消息接连不断!

篮球热嗖
2026-10-27 10:03:27
回老家一趟我彻底破防:村里47个五十岁上下的壮年人,全不种地不打工,天天打牌晒太阳,一问存款还没我多

回老家一趟我彻底破防:村里47个五十岁上下的壮年人,全不种地不打工,天天打牌晒太阳,一问存款还没我多

犀利辣椒
2026-09-25 06:21:06
韩国瑜提“我是中国人”,将蒋万安一军,台青喊话可接受武力收台

韩国瑜提“我是中国人”,将蒋万安一军,台青喊话可接受武力收台

DS北风
2026-10-27 16:46:03
美媒:中国航天飞机,太空高清照曝光,“中国版X-37B”比美国X-37B飞行操纵更好

美媒:中国航天飞机,太空高清照曝光,“中国版X-37B”比美国X-37B飞行操纵更好

蓝星杂谈
2026-10-28 09:46:48
秦朔再回应抖音高管:关于“字节时间”,到底谁在胡扯?字节系用户时长占比41.8%,超过腾讯系,“字节时间”不是空穴来风

秦朔再回应抖音高管:关于“字节时间”,到底谁在胡扯?字节系用户时长占比41.8%,超过腾讯系,“字节时间”不是空穴来风

投资者内参
2026-10-28 14:40:36
俄罗斯专家把话挑明了:如果中国铁了心要对日本动手,那就只有两个选择,要么不出手,要么一击毙命!

俄罗斯专家把话挑明了:如果中国铁了心要对日本动手,那就只有两个选择,要么不出手,要么一击毙命!

回京历史梦
2026-10-11 16:35:06
10中0!总冠军前锋啊!曝尼克斯或有解体大交易

10中0!总冠军前锋啊!曝尼克斯或有解体大交易

篮球实战宝典
2026-10-27 19:11:48
晚上11点!CCTV5直播U17女足“生死战”,对手短板明显,赢球=创队史最佳战绩

晚上11点!CCTV5直播U17女足“生死战”,对手短板明显,赢球=创队史最佳战绩

大卫的篮球故事
2026-10-27 19:27:26
退休后,永远不要在熟人面前,说以下6句话,切记切记!

退休后,永远不要在熟人面前,说以下6句话,切记切记!

东林夕亭
2026-10-05 08:21:49
国务院定调,减缓人工智能的应用。全都是机器人了,大量人工下岗,没有工作,没有收入,谁去消费?

国务院定调,减缓人工智能的应用。全都是机器人了,大量人工下岗,没有工作,没有收入,谁去消费?

扶苏聊历史
2026-10-26 16:14:21
2026-10-28 15:15:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
183文章数 5关注度
往期回顾 全部

头条要闻

媒体:皇马坚持认为球员有权做个人表达 还取笑西甲

头条要闻

媒体:皇马坚持认为球员有权做个人表达 还取笑西甲

体育要闻

0胜4负与篮网国王一桌 热火字母哥赌错了?

娱乐要闻

王心凌近况!分手已9年,如今还是单身

财经要闻

解密 “速成车”:一辆车怎样更快造出来?

科技要闻

AI世界开口说话!谷歌新模型Genie 4有多神

汽车要闻

宾利MULLINER再展定制实力 推哥白尼主题限量版车型

态度原创

本地
房产
游戏
手机
公开课

本地新闻

十月奔赴迪庆,解锁梅里日照金山

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

《流放者柯南》增强版与《浮空岛》即将登陆PS5

手机要闻

蓝/红色三星W27心系天下折叠手机渲染图曝光,官方明日发布

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版