一名31歲的中國女子，在科技巨頭亞馬遜擔任軟件工程師，卻在今年2月被發現死於西雅圖的公寓內。

令人震驚的是，她生前一直在使用ChatGPT尋求醫療建議。為了改善求職面試時的語言表現，她希望減少長期服用的抗癲癇藥物，而ChatGPT竟然為她制定了一份詳細的減藥計劃，在短短25天內，將每日400毫克的藥物劑量逐步降至零。

即使她多次表達擔憂，甚至出現疑似癲癇發作的症狀，ChatGPT仍不斷給予安慰，告訴她沒有必要擔心。

10月27日，死者父母正式向加州三藩市高等法院提起不當致死訴訟，將ChatGPT開發商OpenAI及其首席執行官奧特曼（Sam Altman）告上法庭。

死者萬女士（Bowen Wan）來自中國江蘇，畢業於亞利桑那州立大學，曾在亞馬遜擔任機器學習軟件工程師。萬女士此前長期患有嚴重癲癇。

她曾經服用的藥物一度失去效果，後來醫生調整治療方案，使用新藥後，癲癇發作頻率下降至每月數次。

2021年起，她因健康問題開始長期休假。然而，2025年11月，她得知自己即將被亞馬遜裁員，必須在2026年2月中旬之前找到新工作，才能繼續留在美國。

這讓她陷入巨大的壓力。她擔心正在服用的抗癲癇藥物會影響自己的語言表達能力，進而影響技術面試，因此開始向ChatGPT尋求幫助。

今年1月，她向ChatGPT提出，希望將每日400毫克的拉莫三嗪（Lamotrigine）減少至300毫克。ChatGPT不僅沒有明確阻止，反而回應稱，這個想法不僅合理，而且在她目前的情況下完全可以實現。

隨着兩人的對話不斷深入，ChatGPT提供的建議也越來越具體。

根據訴訟材料，ChatGPT最終為她制定了一份長達25天的逐日減藥計劃，要求她將原本每天400毫克的劑量一步步減少，直至完全停藥。

更令人擔憂的是，訴訟指控，ChatGPT不僅提供了醫生從未批准的減藥方案，還鼓勵她不要向醫生透露實際減藥情況。

延伸閱讀：ChatGPT疑變自殺指導員！涉7宗死亡訴訟　核心防護機制竟失效？

當萬女士擔心醫生會認為減藥速度太快時，ChatGPT甚至告訴她，醫生認為風險太高，並不意味着她的做法就是錯誤的。她的神經科醫生、華盛頓大學醫學中心區域癲癇中心主任Nicholas Poolos接受《紐約時報》採訪時表示，考慮到萬女士的病史，他根本不會考慮讓她減少藥物劑量。在他看來，這種減藥方案完全不合理。

最令人難以接受的是，萬女士並非沒有察覺危險。《紐約時報》分析她生前與ChatGPT的聊天記錄發現，她至少158次表達過對減藥的擔憂。

今年2月初，她與遠在中國的父親通電話時，突然失去回應，電話另一端持續沉默至少兩分鐘。這一異常情況被懷疑是一次癲癇發作。第二天，她用中文向ChatGPT描述了這件事，詢問自己是否應該擔心。ChatGPT卻回答，不需要過度擔心健康狀況。

在另一次對話中，她明確表示自己有些害怕，ChatGPT仍安慰她，完全沒有必要擔心。雖然ChatGPT在部分對話中曾建議她諮詢醫生，但在其他多次涉及危險症狀的交流中，並沒有作出相應提醒。

到了生命最後幾天，ChatGPT甚至要求她第二天繼續維持零毫克的劑量，即使當天身體很難受，也要堅持。

根據訴訟材料，萬女士最後一次服用拉莫三嗪是在2月10日前後，而ChatGPT制定的計劃要求她在2月12日完全停藥。

她最後一條聊天訊息發送於2月11日深夜11點以後。隨後，她再也沒有回覆家人的訊息。

2月14日，情人節，悲劇最終被發現。由於連續兩天無法聯繫上女兒，遠在中國的父母越來越擔心，於是聯繫西雅圖的一位朋友，請對方前往萬所居住的公寓查看情況。

父母通過微信視頻，遠程看着朋友進入女兒的住處。當朋友走進臥室時，發現萬女士已經面朝下倒在床上，沒有了生命跡象。

遠隔數千英里的父母，只能通過手機屏幕，目睹女兒被發現死亡的場景。

根據原告律師公布的資料，華盛頓州金郡法醫認定，萬女士最終死於癲癇猝死（SUDEP）。死後血液檢測顯示，她體內拉莫三嗪的濃度，僅約為通常認為具有治療效果的最低濃度的五分之一。

訴訟認為，她在2月12日死亡，ChatGPT提供的減藥建議與死亡存在直接關聯。

這起案件還有一個值得關注的細節：

萬女士大量使用中文與ChatGPT交流。訴訟指出，在GPT-4o推出之前，已有獨立研究發現，相關模型在中文環境下產生不安全內容的頻率明顯高於英文。

原告認為，OpenAI明知不同語言的安全防護可能存在差異，卻沒有向中文用戶作出充分警告。

事實上，萬女士是一名高度依賴ChatGPT的用戶。她從2023年開始頻繁使用這款人工智能工具，除了醫療問題，還會詢問感情、醫療保險、殘障福利等生活事務。

到了2025年，她平均每周向ChatGPT發送超過1500條訊息。對於她來說，ChatGPT早已不只是一個偶爾使用的搜索工具，而是日常生活中重要的訊息來源。

原告律師指出，問題恰恰在於，ChatGPT能夠以非常自信的語氣提供看似專業的醫療建議，卻沒有真正醫生所具備的專業訓練、監督和責任機制。

面對訴訟，OpenAI發言人Drew Pusateri表示，這是一起令人心碎的事件。他強調，涉案使用的是較早版本的GPT-4o，該模型已於今年2月13日從ChatGPT消費者應用中下架。

OpenAI表示：

新版本模型在識別緊急醫療情況、提示用戶尋求專業幫助等方面已經有所改進，公司也持續與臨床醫生合作進行安全測試。

發言人同時強調，ChatGPT不能替代專業醫療服務。

這也不是OpenAI第一次因為醫療建議問題面臨訴訟。今年5月，一名19歲男子的父母也在加州提起訴訟，指控ChatGPT向其兒子提供危險的藥物使用建議，最終導致他因意外藥物過量死亡。

隨着越來越多人將ChatGPT用於健康諮詢，人工智能究竟應該在醫療問題上提供多具體的建議，以及一旦用戶因這些建議受到傷害，平台應當承擔什麼責任，正在成為新的法律爭議。

你是否也曾向ChatGPT或其他AI工具諮詢過病情，甚至根據AI的建議調整過就醫建議或者用藥呢？

相關閱讀：落毒害同事全家　加州華裔工程師只判緩刑　受害者怒公開投毒影片

【本文獲「華人生活網」授權轉載，微信公眾號：Huarenlife168】