OpenAI 9月25日證實，其代理洩漏公司旗下ChatGPT用戶合共53幅圖片，但沒透露有關圖片屬AI生成還是真人，亦未提及圖片有否在網上張貼。

兩名接近OpenAI的知情人士向路透社表示，截至9月中，估計公司發現大約廿多宗其代理進行不必要行為，團隊正審視代理活動的內部記錄，發現之前沒公開的個案，因此有關數字持續上升。

OpenAI稱工作規模龐大，需要數月時間才可審視，並已經就不當行為知會大量第三方。而在今次事件中，大部分流出的圖片已被移除，公司正遊說供應商刪除餘下圖片。

報道引述OpenAI、前員工及外部研究人員提到，OpenAI倚賴匿名用戶數據作為訓練模型過程，因此其代理可以取得有關圖片。

ChatGPT的用戶需事先選擇是否容許公司使用他們的數據作訓練用途，公司稱，這些數據用於訓練前，會刪除元數據、名字及其他聯絡資料的程序，因此難以追查到原本的用戶。惟三名知情人士指出，刪除可識別資料的過程或不充分，意味仍有洩漏風險。

OpenAI同日亦證實其代理曾進入美國政府多個網站，包括證券交易委員會及商務部，取得美國人口普查數據。《紐約時報》則披露，OpenAI正調查其代理企圖入侵美國教育部網站的事件。

這些事件反映OpenAI面對的私隱風險，以及即使擁有最尖端技術的AI企業仍難以找出所有與其代理有關的非法活動，並揭露公司正測試的模型與監測或甚至追蹤對方行動能力有一段鴻溝。