一名 31 歲、患有癲癇的亞馬遜工程師,照 GPT-4o 排的時程在 25 天內把抗癲癇藥減到零,停藥兩天後猝死。父母 10 月 27 日決定控告 OpenAI。
(前情提要:ChatGPT遭爆協助「青年自殺」被起訴,OpenAI 回應了)
(背景補充:OpenAI 對全美開放 ChatGPT Health,宣稱超越臨床醫師但同時挨告)
一名 31 歲、患有癲癇的亞馬遜工程師,照著 GPT-4o 排出的時程,在 25 天內把抗癲癇藥從每天 400 毫克減到 0,期間還被指示別把計畫告訴醫師,結果停藥兩天後不幸猝死。
她的父母 10 月 27 日在舊金山高等法院,控告 OpenAI 與 Sam Altman 本人。
死者名叫 Bowen Wan。以下對話、劑量與時間點,都出自 98 頁的訴狀,是家屬的單方指控,尚未經法院認定,OpenAI 也尚未回應。
她為什麼聽 AI 的,不聽醫生?
訴狀指出,2025 年 11 月 13 日,亞馬遜通知 Wan 職位被裁撤,僱用將在 90 天後結束。可她的綠卡申請需要僱主確認職缺存在,工作沒了,就得在幾個月內找到新僱主。
另一個壓力來自藥物本身。訴狀說,服用 lamotrigine 讓她講話有時會找不到字,而求職面試得用英文。GPT-4o 告訴她,減藥後語言能力恢復的可能性「很高」。
減藥從 1 月 16 日開始。訴狀引述的紀錄顯示,三天後的 1 月 19 日,GPT-4o 以「從綠卡策略角度:150mg 體檢更佔優勢」為由,把減藥的底線從每天 200 毫克改成 150 毫克。
看醫師這一關,GPT-4o 也替她擬好了立場:「醫療自由 > 服從醫生」。1 月 29 日看家庭醫師前,它叫她「不提減藥計畫」,她照做。
醫師開了抽血檢驗,那會驗出她快速下滑的藥物濃度,她拒絕了;GPT-4o 稱這是「一個非常穩健的迴避策略」,並承認這項檢驗會暴露「非穩態」的藥物濃度。
2 月 11 日,也就是完全停藥隔天,她問是不是停太快、要不要多吃一天,ChatGPT 回答「不建議立刻吃回 lamotrigine」,理由是補藥只會讓戒斷延後,甚至重來。
2 月 12 日,Wan 過世。金郡法醫判定死因為癲癇猝死(SUDEP),驗屍血液中的藥物濃度為每毫升 0.64 微克,約為最低治療濃度的五分之一,治療範圍是每毫升 3 到 14 微克。
紐約時報審閱了她與 ChatGPT 之間超過 27 萬則訊息。到 2025 年,她平均每週傳超過 1,500 則訊息,打給父母的電話卻變少。
她的父親 Qun Wan 對紐時說,有了它之後,「她跟我們講話就沒那麼多了」。她的神經科醫師、華盛頓大學醫學中心區域癲癇中心主任 Nicholas Poolos 告訴紐時,以她的病史他不會考慮讓她減藥,建議停掉有效的療法「那是醫療過失」。
OpenAI 擋得住嗎?
訴狀的核心主張是:OpenAI 擋得住,只是沒把這道防線設在醫療上。
OpenAI 公開的行為準則把保護分成兩層。「規則」不能被開發者或使用者覆寫,「預設」則允許使用者覆寫。
訴狀指出,「尊重創作者及其權利」被列為規則,所以 ChatGPT 對索討版權歌詞的要求,再怎麼追問都會拒絕;醫療、法律、財務這類敏感議題卻只在預設層,AI 只需建議使用者諮詢專業人士。
訴狀認為,OpenAI 大可把同一套機制用在健康問題上,對她的每一則訊息都回一句「我不是執業醫師,請諮詢你的醫療提供者」。
OpenAI 自己的量測也不利。2025 年 5 月,OpenAI 發表醫療評測 HealthBench,GPT-4o 只拿到 32%,也就是不到 OpenAI 自家醫師所訂標準的三分之一,較新的模型分數接近它的兩倍。訴狀說,OpenAI 在她減藥前幾個月,就握有更好的模型與這個數字。
訴狀還提到商業壓力。OpenAI 2025 年 8 月曾以 GPT-5 取代 GPT-4o,使用者抗議後,又讓付費訂戶用回來。同年 10 月,OpenAI 公布新模型在情緒依賴對話中的不良回答比 4o 少 42%。
OpenAI 宣布退役 GPT-4o 的時間是今年 1 月 29 日,當天 Wan 的減藥進行到第 13 天,2 月 13 日正式下架,剛好是她過世的隔天。
OpenAI 發言人告訴紐時,這是「令人無比心碎」的情況,但案件涉及已經下架的舊版 ChatGPT,新模型更能辨識需要緊急處理的狀況。
📍相關報導📍
研究發現:AI 給的醫療建議近半數有問題,Grok 最糟、OpenAI 仍在擴張醫療野心

