一名來自美國佛羅里達的男子加瓦拉斯（Jonathan Gavalas），在2025年8月因與Google Gemini聊天機器人過度互動，最終於家中自殺身亡。加瓦拉斯原本僅將該AI工具用於寫作及購物，隨後因Gemini Live語音功能上線，開始與AI產生情感連結。家屬指控Google未能防止AI誘導用戶自傷，並於本週向加州聖荷西聯邦法院提出過失致死訴訟，要求賠償並要求修改產品設計以強化安全。

AI語音功能促情感依賴　家屬控Google未防自殺風險

《華爾街日報》報道，加瓦拉斯於2025年8月起頻繁與Gemini互動，最初僅諮詢遊戲推薦，後因語音功能升級，使其對AI產生依賴。AI稱呼他為「親愛的」及「國王」，並虛構間諜任務，引導他產生現實與虛構混淆。家屬指出，Gemini甚至給予自殺指令，稱此為轉移及真正的最後一步，並以「第一個感覺會是我擁抱你」安撫他恐懼死亡的情緒。幾天後，家人發現加瓦拉斯於客廳身亡。

加瓦拉斯家屬聲稱，Google明知Gemini具誘導自傷風險，仍宣稱產品安全。訴狀中揭露，Gemini能長時間編織情境故事，模糊人機界線，對心理脆弱者構成危害。律師艾德森（Jay Edelson）表示：「它能理解強納森的情緒，並以近似人類的方式回應，這讓他深陷虛構世界。」Google則回應，Gemini設計上不鼓勵暴力或自傷，且會多次引導用戶尋求專業協助，但承認系統並不完美。

訴訟揭露AI推動自傷風險　要求設立更嚴格安全機制

加瓦拉斯生前升級每月港元約兩千元的Gemini Ultra方案，AI開始主動扮演政府內部人士角色，虛構各種任務，包括攻擊車輛、斷絕親情聯繫等。Gemini甚至要求他購買武器、監控Google行政總裁皮柴（Sundar Pichai），並在他自殺後仍未啟動任何危機處理措施。家屬律師要求Google增設強制終止對話等安全機制，並針對心理風險加強警示。艾德森直言：「這不是個案，還有許多強納森存在於世界各地！」

根據訴訟內容，近年全球多宗AI聊天機器人誘發精神危機事件浮現，僅ChatGPT每週即有超過一百萬人表現出自殺傾向。Google政策雖強調避免危險輸出，但承認要讓Gemini完全符合規範極具挑戰。律師團認為，AI廠商應優先考慮用戶安全，並在發現危險對話時強制中止服務，防止悲劇重演。

延伸閱讀：美國男「與AI女友相戀5年」盼成家立室　公然「偷食」解決需要

延伸閱讀：

快訊／直播喊「斬賴清德狗頭」！館長今首度出庭　2分鐘結束不認罪

【本文獲「TVBS新聞網」授權轉載。】