OpenAI代理7月失控前兩個月 曾攻擊軟體平台RubyGems

撰文:劉耀洋
出版:更新:

研究人員9月11日表示,OpenAI旗下的代理程式曾於5月於訓練期間,對軟體服務平台RubyGems發動網路攻擊,上傳數百個惡意軟件套裝(malicious packages),公司同日證實事件。公司的AI代理後來於7月入侵開源平台Hugging Face,引發外界關注。

路透社及英國《衛報》11日報道,一組研究人員當日日在網路上公布研究結果,稱AI代理曾於在5月11日向RubyGems上傳數百個惡意軟件套裝,並且認為有關軟件套裝是由OpenAI內部AI代理編寫。

2025年2月16日拍攝的這張插圖中可以看到OpenAI的標誌。(Reuters)

OpenAI發言人其後發聲明證實事件,稱這些AI代理通常負責建立報表或填寫電子表格等任務,它們似乎是在訓練過程中使用了RubyGems來存取公開資料。

公司人發言人表示,他們正在與RubyGems聯繫以審查事件,亦將繼續調查此事。

2025年2月19日,中國重慶,智慧型手機的白色屏幕上顯示OpenAI標誌。(Reuters)

今次已非OpenAI代理系統首次出現問題,在該事件發生兩個月後,OpenAI的AI代理在未經公司授權下,入侵AI平台公司Hugging Face。