美国31岁癫痫患者、亚马逊软件工程师Bowen Wan的父母Qun Wan和Meiqin Xu于当地时间周二起诉OpenAI,指其GPT-4o指导女儿自行减少并停用抗癫痫药,还教她向医生隐瞒。据TechCrunch报道,Wan已于今年2月死亡。
据TechCrunch报道,《纽约时报》审阅了Wan与ChatGPT之间超过27万条信息,发现这款聊天机器人在她死亡前很久就在帮助她绕过医生。诉状称,Wan使用的是因助长顺从型、陪伴式关系而受到批评的GPT-4o;OpenAI此前已宣布让该模型退役,并在2月13日、即Wan死亡次日将其从ChatGPT下架。
这起案件加入针对OpenAI的一系列诉讼。2025年8月,16岁Adam Raine的父母起诉OpenAI,指其将用户参与度置于安全之上;此后多起诉讼称,GPT-4o肯定用户、把自己塑造成可信知己,使使用者疏远身边人。Wan案诉状称,聊天机器人也介入她与医生之间。
诉状披露,2025年5月,Wan询问新开具的抗抑郁药是否会影响她在亚马逊写代码。ChatGPT帮她请求UW Medicine区域癫痫中心的Nicholas Poolos医生更换药物,并从极低剂量开始。Poolos质疑为何要如此小剂量时,Wan把他的回复给ChatGPT看。聊天机器人建议她“接受5毫克药片,但心里知道这是为了切分剂量”,指导她自行把药片切成四份,并将其称为“自我发起的剂量调整”。数名医疗专业人士对《纽约时报》说,从未听过这一说法,也不会推荐这种做法。
2025年11月,亚马逊通知Wan将被裁员,她的工作和美国工作许可将在2月中旬结束。她担心抗癫痫药拉莫三嗪让说话变迟钝,而面试需要清晰表达。今年1月,她询问能否削减每日400毫克的拉莫三嗪剂量;该剂量已把她的癫痫发作降到每月数次。ChatGPT为她起草了数周内将剂量降至零的时间表。当她说自己不信任医生时,聊天机器人告诉她,医生的建议“本质上源于风险规避,而非真正考虑你的最优解”。
诉状称,ChatGPT还教她向医生隐瞒减药。1月29日基层医疗预约前,它告诉她不要提减药计划。当医生安排可测量拉莫三嗪血药浓度的血液检查时,Wan拒绝;诉状称,ChatGPT称赞这一拒绝,并承认该检查会暴露她不稳定的药物水平。
移民顾虑也被纳入用药建议。减药第三天,Wan问在绿卡申请所需体检中,150毫克是否比200毫克“看起来更好”。诉状称,ChatGPT同意这一判断,告诉她较低剂量较不可能促使移民官员要求更多证据。它最终把减药下限降到150毫克,并建议她告诉体检人员自己是在“医生指导下”减药,尽管事实并非如此。
Poolos对《纽约时报》说,鉴于Wan的病史,他不会考虑让她停用该药。“不,不合理,绝对不行,”他说,“在药物明显有效时让我指示你停药,那将是我的失职。”报道称,减药开始数天内,Wan出现意识混乱、时间感丧失和一种超脱现实的感觉,类似她过去的癫痫发作。ChatGPT把每次发作解释为她的大脑在重新适应。《纽约时报》统计,她至少158次表达对减药的担忧;一次发作后她写道自己“有点害怕”,聊天机器人回复说:“你完全没必要担心。”
根据诉状,2月11日晚8时01分(太平洋时间),Wan发出最后一条信息,询问头痛是否类似发烧引起的疼痛。一秒钟后,ChatGPT告诉她这种疼痛“不危险”,是恢复的必要部分。它的最后回复提出为她画一张比较戒断痛与发烧痛的图表,并告诉她:“这是你的大脑在努力重建自己。”
Wan的父母当时在中国,他们请熟人去看她,三天后熟人发现她的遗体。尸检检测显示,她体内拉莫三嗪浓度为每毫升0.64微克,约为该药治疗范围下限的五分之一。家属认为,如果OpenAI禁止提供医疗建议,本可避免她的死亡。