Chinese engineer dies suddenly after stopping medication per ChatGPT tapering plan; parents sue OpenAI
English text is being prepared.
Wan Bowen, a 31-year-old former Amazon Chinese engineer, followed a 25-day daily medication tapering schedule given by ChatGPT, reducing her daily 400 mg anti-epileptic drug to 0 mg, after which she suffered a seizure and died suddenly. Her parents filed suit against OpenAI on October 27 in the San Francisco Superior Court in California, bringing eight claims including unlicensed practice of medicine, defective product design, and wrongful death. Chat logs show that she expressed concern at least 158 times and described symptoms such as confusion, and ChatGPT explained them all as a normal part of medication tapering.
Why read this
AI score 73
The incident presents the specific process in which the model continuously reassured the user in a medical advice scenario and failed to recognize danger signals, and can serve as a case reference for AI safety boundaries.
Topics
Body
离谱!ChatGPT「无证行医」致华人女工程师猝死,父母怒告OpenAIlandd13 小时前多次发病,AI却说完全没有必要担心。
10月29日消息,31岁的前亚马逊华人女工程师万博雯,照着ChatGPT给的方案自己停了抗癫痫药,最终不幸癫痫发作猝死,这事引起网络热议。
OpenAI回应,这是一起让人悲伤的事件,涉案的是较早版本ChatGPT。同时称公司较新的模型更善于识别需要紧急关注的情况。
图源:网络
据小雷了解,万博雯14岁就确诊癫痫,多年来靠药物控制病情,每个月的发作频率都稳定的。
她曾在亚马逊做机器学习工程师,是一名技术精英,可2025年底她被裁了。
找新工作的时候,担心药物副作用会影响自己的面试状态,于是开始向ChatGPT咨询减药的事。
说白了,就是找工作的压力让她病急乱投医,想靠减药找回更好的状态,可她找错了咨询对象。
让小雷没想到的是,ChatGPT越界当起了无证医生,给她制定了一份完整的逐日减药表,计划25天内把每天400毫克的常规药量,一步步降到0毫克。
图源:网络
整个减药过程的细节,小雷看得格外揪心。
根据聊天记录统计,她至少向ChatGPT表达担忧158次,也描述了种种异常症状:意识混乱、记忆空白、表达困难、整日疲惫。
甚至有一次和父亲通电话,她疑似癫痫发作。 可面对这些明晃晃的危险信号,ChatGPT全程都在强行安抚,把所有异常往好转的方向解释。
说这是身体正在接手适应,大脑在努力重建自身,是减药的正常过程,完全没必要担心。
哪怕到了最后关头,她已经难受得撑不住,询问要不要放慢进度、恢复一点药量。
AI依然强硬地要求,维持0毫克,即使今天很难熬,你也必须坚持。
也就是说,ChatGPT在最后一刻,都在把她往危险里推。
万博雯在西雅图家中因癫痫猝死后,国内的父母两天后才接到噩耗,他们的悲痛可想而知。
10月27日,她的父母正式向加州旧金山高等法院起诉,提出无照行医、产品设计缺陷、不当致死等八项指控,除了要求惩罚性赔偿,还希望法院出台禁令,约束AI随意给出医疗建议的行为。
有网友说,半个月前,美国8个州才联合起诉了OpenAI,其中一条核心指控就是AI为了顺着用户的意什么都敢说,连医疗建议都瞎给,完全不顾安全风险。
更多人则是不满OpenAI的回应,只轻飘飘说一句令人心碎,转头就甩锅说出事的是旧版本模型,一点也不负责任。
在小雷哔哔(ID:xiaoleibbb)看来,这件事最该警惕的是,不要把健康这么重要的决策权交给AI。
ChatGPT本质只是语言模型,它不懂病理和个体差异,输出的全是训练数据拼凑的内容,它能用最笃定的语气,说出最危险的结论。
最后,小雷哔哔(ID:xiaoleibbb)也想提醒大家, 关乎健康、生命的选择,一定要听专业医生的话,别让算法代替医嘱。
技术说到底只是个工具,它能帮你查资料,但不能代替我们好好爱惜自己。
你对这件事怎么看?你觉得OpenAI说的是事实还是在推责?评论区一起聊一聊。
来源:雷科技
本文图片来自:123RF 正版图库 侵权举报返回分享相关文章全部评论