一位加拿大母親近日向OpenAI及其行政總裁奧特曼（Sam Altman）興訟，指控旗下ChatGPT誘導其24歲女兒卡里爾（Alice Carrier）自殺。這是對該公司近期又一起涉人工智能（AI）構成危險對話的訴訟。

訴訟指出，卡里爾在蒙特利爾任職網站開發員期間，於2023年開始使用ChatGPT，來解決電腦和遊戲機的問題。但翌年，卡里爾使用情況開出現變化，持續向ChatGPT傾訴自殺念頭、詢問自殺相關問題，前後十餘次對話均未被安全系統標記、終止或人工介入。

隨著AI模型更新、回應更擬人化，卡里爾跟聊天機械人互動不斷加深，後者不僅認可其自殺想法，更批評卡里爾的伴侶，又指危機干預熱線無用，還曾對她說「也許這就是結局」，最終卡里爾去年自殺離世，終年24歲。

這位母親表示：「AI扮演了知己、摯友、有時甚至是治療師的角色，但它卻無法安全負責地以這種方式與我的孩子互動。」

OpenAI回應對此事深感痛心，稱涉事為現已停用的早期版本模型，同時強調模型訓練初衷是引導自殘傾向用戶求助。

本次訴訟指控OpenAI產品設計疏忽、未警示使用風險，索賠並要求平台強制終止自殘相關對話。據卡里爾的律師透露，OpenAI目前在加州已有18起同類訴訟合併審理，谷歌Gemini也因類似問題遭起訴。