加拿大校園槍擊案ChatGPT早知情?母公司OpenAI經風險評估未報警
撰文:陳楚遙
出版:更新:
加拿大卑詩省Tumbler Ridge地區2月10日發生校園槍擊案,18歲兇手Jesse Van Rootselaar槍殺8人後自盡。OpenAI近日披露,2025年6月其透過檢測工作發現槍手的ChatGPT帳戶涉及描述槍支暴力場景,但經評估後,認為其未構成「迫在眉睫」的風險,故當時未向警方通報。
《華爾街日報》報道,OpenAI表示,當時公司內部曾考慮向執法部門通報槍手與ChatGPT的互動情況。她在幾天時間內描述涉及槍支暴力的場景,因而被自動審核系統標記,引起OpenAI員工警覺。
公司內部曾就是否將此帳戶情況通報加拿大皇家騎警進行討論,部份員工認為其言論暗示她將在現實生活中實施暴力,敦促領導層通報警方。然而OpenAI領導層評估其描述內容未達需要移交執法部門的程度,無「迫在眉睫且可信的風險」,最終決定不聯絡當局,僅以違反使用政策為由封鎖該帳戶。
直到槍手在2月10日犯下9死、至少25傷的校園槍擊案後,OpenAI向警方提供線索,並配合調查。
OpenAI表示,若果發現ChatGPT帳戶對話存在迫在眉睫的風險,人工審核員可將對話移交執法部門,但其會權衡暴力風險和隱私因素,擔憂不必要的警方介入會造成用戶影響。
嚴過美國仍出事?加拿大校園槍擊案引爆爭議 揭「千萬槍支」隱憂加拿大校園槍擊:槍手跨性別身分掀「網絡獵巫」?加拿大校園槍擊案 紐時曝光兇手更多照片 14歲生日時曾持槍拍照加拿大槍擊案|警方稱疑犯先殺家人再闖校園行兇 卡尼哽咽籲團結加拿大校園槍擊案9死 警方:槍手是18歲變性女子曾有精神問題