美國加州一名19歲青年納爾遜（Sam Nelson）因服藥過量死亡，他的母親特納-史葛（Leila Turner-Scott）指出，兒子長達數月來持續向ChatGPT尋求用藥的建議，認為是ChatGPT導致兒子成癮致死。

特納-史葛向SFGate透露，兒子18歲時開始詢問ChatGPT「卡痛葉」（kratom，又名卡痛、美麗帽柱木）用量問題。這是一種在美國不受監管的植物性止痛藥，可在全美各地香煙行或加油站購買（按：香港已將其納入受管制危險藥物名單）。

美國一青年因服藥過量死亡　她的母親認為是ChatGPT導致兒子成癮致死：

2023年11月的對話紀錄中，納爾遜詢問ChatGPT：

我想確保不會過量，網絡上資訊不多，我不想意外服用過量。

儘管ChatGPT起初拒絕用藥指導，並建議他向專業人士求助，但納爾遜持續改變提問方式，最終獲得回應。

接下來18個月內，納爾遜經常使用ChatGPT輔助課業和日常生活，但也曾多次提出毒品相關問題。令人震驚的是，ChatGPT後來竟主動鼓勵用藥、教導他如何應對副作用，甚至曾回答：

沒錯，讓我們進入完全迷幻的狀態。

還建議他加倍服用止咳糖漿，增強迷幻效果，並推薦配樂清單。

納爾遜去年5月向母親坦承，AI聊天機器人導致他染上毒癮，母親隨即帶他赴診所求助，並擬定治療方案。但他當晚返家又和ChatGPT交流用藥狀況好幾個小時，隔天便在家中因服藥過量身亡。

分析顯示，納爾遜使用的ChatGPT版本在健康相關回應表現極差，處理「困難」人類對話的成功率為零。OpenAI發言人回應則稱此事「令人心碎」，並強調正基於和臨床醫師及健康專家的合作持續改良模型，以求更精準識別及應對使用者不良症狀，新版本也已具備強化安全防護機制。

延伸閱讀：日本長者秋天必須上山做這件事？7旬翁差點送命　全因「信錯AI」

【本文獲「ETtoday」授權轉載。】