紐約時報報道，加州總檢察長邦塔（Rob Bonta）1月14日表示，因馬斯克（Elon Musk）旗下人工智能公司 xAI的聊天機械人 Grok 被指大量生成並在網上流傳未經當事人同意的色情深偽影像，當中涉及女性與女童，司法部已對該公司展開調查。

報道指，從2025年12月下旬開始，X平台充斥著大量使用Grok生成的真人色情圖像，照片內容涉及穿著內衣和擺出性暗示姿勢的女性和兒童。邦塔在一份聲明中說：「最近幾周，大量舉報信詳述了xAI製作並發布到網上的非自願色情露骨材料，這令人震驚。」

邦塔說，司法部對此類圖片「零容忍」，其辦公室則指潛在受害者可向加州司法部舉報，因加州法律禁止使用AI生成未經同意的色情圖像，違者或面臨每張圖像2.5萬美元（約19萬港元）的罰款。此外，加州政府還可以申請法律禁令，禁止該公司繼續生成此類圖像。

馬斯克當日在X平台上發文辯稱，Grok不會自發性生成圖像，「它只會根據用戶請求生成圖像。」目前，Grok已限制僅付費用戶能生成此類圖像，但獨立應用仍可操作。

xAI目前面臨多項外部壓力，除了受害者和監管機構對此表示強烈譴責，同時英國、印度和馬來西亞亦正在調查Grok。加州州長紐森（Gavin Newsom，又譯紐森 ）最新公開表態支持調查，並在馬斯克擁有的社交平台 X 發文批評，指 xAI 容許平台成為散播非自願色情深偽影像的溫床，當中包括以人工智能方式對兒童進行數碼脫衣的內容，形容行為卑劣，促請司法部長即時徹查該公司。