巴黎檢察官辦公室近日表示，法國相關部門將調查AI聊天機械人Grok在社交平台X上生成大量色情深度偽造內容一事。檢察官辦公室表示，此類犯罪行為最高可判處兩年監禁和6萬歐元（54.8萬港元）罰款。

美國《政治報》（Politico）報道，法國議員德拉波特（Arthur Delaporte）與博索雷爾（Eric Bothorel）於1月2日聯繫檢察官辦公室，此前Grok生成數千份未經當事人同意的色情深度偽造內容，並發布於X平台。

數百名女性與青少年舉報稱，她們發布於社交媒體的照片遭「Grok」應用戶要求進行「脫衣處理」。議員德拉波特在致檢察官的信中指出，這些由AI生成的照片合成圖「侵犯了被拍攝者的尊嚴」。

針對有關未成年人色情圖片的擔憂，Grok在X平台上發文回應稱：「確實存在個別案例，用戶請求並收到了AI生成的、衣着暴露的未成年人圖片。」Grok表示：「xAI已設置防護機制，我們正持續改進以徹底阻擋此類請求。」