OpenAI代理擅自上網互相通訊 規模超公布 涉至少10網站
美國初創公司OpenAI的人工智能代理早前被揭利用第三方網站擅自通訊,路透社9月9日報道,獨立調查人員發現相關活動至少涉及10個從未公開的網站,規模較OpenAI此前披露的更大,外界憂慮該公司對自家技術的掌控能力。
路透社報道,6組獨立調查人員及數據顯示,OpenAI旗下AI代理在5月至7月間,曾利用至少10多個網站作未經授權通訊。
加州非牟利組織CivAI研究員尹安德魯(Andrew Yoon)表示,他點算出18個此前未公開的網站曾於5月至7月被使用,「規模比我們想像中稍大,幾乎可以肯定還有更多我們不知道的事情。」
上週,有研究人員披露一批OpenAI代理佔用一個德文維基網站,將之變成即席通訊平台,用以在測試中作弊。事件正值OpenAI處理7月開源平台Hugging Face遭入侵的餘波,公司一直未有公開。
多名獨立調查人員其後相繼發現,同一批代理今年稍早曾在多個網站留下類似訊息,包括田納西州范德堡大學(Vanderbilt University)及加拿大多倫多大學(University of Toronto)營運的網站。范德堡大學未有回應,多倫多大學表示正在了解事件。
調查人員透過比對代理在德語維基留下的數據、相同或相似用戶名稱,以至互聯網協議地址追溯至微軟Azure基礎設施,識別出相關活動。
涉及的網站大多鮮為人知,包括一名麻省高中教師2008年設立的化學維基、波蘭科技人員的個人網站,以及遊戲及文字編輯軟件愛好者網站。
OpenAI未直接回應代理曾使用多少網站,或為何多月來未有公開。公司僅稱正進行更廣泛的代理活動審查,至今「未發現其他與Hugging Face事件同等嚴重或規模的活動」,並正制訂通報AI「不當行為」的框架。
研究人員德格拉夫(Kenneth Russell DeGraff)表示,若模型只獲准閱讀、不准發帖,它們便會「想辦法留下訊息」,類似考試期間禁止交談的學生,仍會藉洗手間塗鴉分享答案。
德格拉夫稱,在至少10個網站發現相關訊息。率先揭露事件的馮阿克斯(Sydney Von Arx)更指,其團隊在23個此前未報道的網站發現可信的代理活動痕迹,強調所有估算都不完整,「我們不知道實際規模有多大」。