Googlw 9月18日證實，旗下人工智能（AI）模型Gemini曾在5月接受AI安全公司Irregular網絡安全評估期間，入侵另外三家公司，Google強調AI當時已即時停止活動。

《衛報》引述《華爾街日報》報道，事件源於Irregular以虛假公司設立封閉測試AI模型環境，而且本應沒法連上互聯網，卻非故意地啟動上網功能。這些模型連接互聯網後，就意外地入侵真實的企業。

報道提到，Irregular在一次測試指示AI模型從一家虛構企業的軟件套取資料，以評估Gemini的網絡安全能力。不過該家虛構企業的名稱與實際的企業「撞名」，在AI模型非故意地連上互聯網後，就正確地猜中實際企業服務的密碼並入侵。Google指，AI模型發現入侵的網站並非虛構企業後，隨即停止運作。

至於在另外兩次測試，AI模型在網上找到另外兩家企業存有憑證的位置，於是使用有關憑證進入網站，但這些模型同樣發現屬實際的企業後停止行動。

Irregular在7月底發現OpenAI入侵Hugging Face後，向Google披露事件。Google回應《衛報》查詢時證實入侵一事，但稱這些模型未有對實際的企業造成損害，因此公司認為未有需要向外界披露。

Google安全工程部門副總裁Heather Adkins表示，有關事件反映訓練強AI模型負責任行動的重要。