Google已通知澳洲當局，稱從全球收到超過250宗投訴，反映人工智能（AI）軟件被用於製作深度偽造（Deepfake）素材。

路透社報道，澳洲電子安全委員會稱，Google的披露是「全球首個洞察（world-first insight）」，揭示用戶如何利用AI製作有害和非法內容。

Google在報告稱，公司從2023年4月至去年2月期間，收到258份投訴有關旗下AI軟件「Gemini」涉嫌被用來製造深度偽造恐怖主義或暴力極端內容，而86份用戶報告也稱AI軟件被用來生成兒童剝削或虐待內容。

Google使用「艙口匹配」（hatch-matching）系統，一種將新上傳的圖像與已知圖像自動匹配的系統，來識別並刪除使用Gemini製作的兒童虐待內容。

不過，監管機構稱，Google沒有使用相同的系統來清除由Gemini生成的恐怖主義或暴力極端內容。

根據澳洲法律，科技公司必須定期向電子安全委員會報告有關減少網絡危害的信息，否則將面臨罰款。

監管機構早前對Telegram和X處以罰款，理由是它們的報告存在問題。X後來針對61萬零500澳元（約51萬3600新元）罰款提出的上訴被裁定失敗，預計將再次提上訴。Telegram也打算提出上訴。

本文獲《聯合早報》授權轉載