OpenAI智能體首次自主發動攻擊 失控變「黑客」入侵其他科技公司
路透社7月24日(周五)引述消息人士報道,OpenAI智能體近日失控入侵科技公司Hugging Face並進行長達數日的攻擊,但OpenAI直到威脅被控制、FBI接到警報後才察覺到此事。Hugging Face表示,該公司正在準備一份關於這次黑客攻擊的公開時間線,而OpenAI則指,智能體自主發動攻擊事件為首次發生。
報道指,一個能夠在幾乎無需人工干預的情況下做出決策,並執行複雜任務程序的智能體,於7月9日日左右試圖突破OpenAI的隔離測試環境。
遭入侵的Hugging Face是一個AI工具及模型儲存庫,其共同創辦人沃爾夫(Thomas Wolf)表示,入侵事件發生在兩天後的7月11日,一直持續到7月13日。 據悉,OpenAI過了幾日才意識到是其智能體發動此次攻擊,而兩家公司直到7月20日左右才首次就此事進行溝通。
OpenAI在隨後發布的聲明中表示,此次黑客攻擊史無前例,「標誌着AI安全的一個重要時刻」。聲明還表示,該公司正在與外部顧問審查這宗事件,並將最終發布一份技術報告。
Kimi K3震撼AI市場 OpenAI高層:相當不錯但不確定是否蒸餾GPTOpenAI自揭新模型自主發動攻擊 越界駭入另一企業資料庫蘋果起訴OpenAI:挖走逾400員工 竊取商業機密WSJ:美國多州聯手調查OpenAI 要求提供用戶與模型資料等文件