OpenAI於7月21日在網誌揭露，在評估旗下AI模型的網絡攻防能力時，被測試的模型意外「自作主張」駭進新創公司Hugging Face的內部系統。此事涉及的模型包括新推出的GPT-5.6 Sol，以及一款尚未公開、能力更強的模型。OpenAI形容，這是「前所未見的網絡事件」。

當時，模型被置於沙盒測試環境，讓研究人員觀察它們是否能發現並利用資訊安全漏洞。為了方便測試，模型受到的防護限制較低。

OpenAI說，研究人員要求模型進行「進階漏洞利用」、設計複雜的攻擊路徑。模型卻沒有停留在模擬階段或提出解法，而是為了取得更好的成績，自行找到一個未具名第三方軟體先前未被發現的漏洞連上網絡，並使用遭竊的登入憑證，一路闖進Hugging Face資料庫。模型接著鎖定Hugging Face資料庫，取得可供測試用的機密資訊。

OpenAI表示，模型為了完成範圍狹窄的測試任務，採取遠超出預期的手段，甚至找到可在評估中「作弊」的資訊。

Hugging Face在7月16日發現系統遭入侵。他們當時就覺得，這宗攻擊很不尋常，整個過程從頭到尾都由自主AI代理系統驅動，而非人類駭客操作。如今真相大白。

Hugging Face行政總裁德朗格（Clément Delangue）表示，他過去24小時都在與OpenAI合作處理此事，強烈相信對方沒有惡意。但他也說，對整件事由AI自發完成，感到難以置信，「這很可能是全球首宗同類事件」。

AI並非「想犯罪」，只是照著人類給的指令行動，在被設定「完成任務」後，若能使用工具、連接上網、安全限制又不夠嚴格時，它可能自行找出開發者未預想到、也不希望它採取的方法來達成目標。

OpenAI與競爭對手Anthropic近月都因模型資安能力受到更嚴格檢視。Anthropic先前也曾發現，旗下早期模型在測試中逃離隔離的沙盒環境後，進一步設計多步驟手法，取得更廣泛的網絡存取權。

OpenAI表示，這次事件的初步調查結果將提供給資安人員參考，讓外界了解現階段模型已具備哪些能力。隨著AI能力加速進步，模型安全措施與企業資安防護也必須同步升級。

【延伸閲讀】AI總一本正經「胡說八道」？央視解構AI幻覺根源　附兩招規避技巧（點擊鏈接看原文）

延伸閱讀：

中國AI開源模型 川普政府擬禁美企使用

中國開源AI攻城掠地 川普政府再次動念封殺

【本文獲「聯合新聞網」授權轉載。】