AI偽造色情圖像 馬來西亞印尼禁馬斯克Grok 英國對X啟動調查
撰文:洪怡霖
出版:更新:
全球首富馬斯克(Elon Musk)旗下xAI公司開發的聊天機器人Grok先後遭印尼和馬來西亞禁用後,英國通訊管理局(Ofcom)周一(1月12日)對X啟動正式調查。
英國通訊管理局發聲明稱,有令人深感擔憂的報道稱,X上的Grok AI聊天機器人帳戶被用於創建和分享包括兒童在內的裸體人物照片,裸露的人體影像「可能構成親密影像濫用或色情內容,涉及兒童的色情影像可能淪為兒童性剝削的素材」。
聲明指,英國通訊管理局1月5日已聯絡X,要求其說明已採取哪些措施保護英國用戶,X已在規定時間內做出回應。
印尼數碼部長哈菲德(Meutya Hafid)1月10日稱,相關禁令旨在「保護婦女、兒童及廣大公眾免受利用人工智能技術生成的虛假色情內容的風險。」
馬來西亞11日也宣布實施臨時禁令,原因是「Grok多次被用於生成色情、露骨、極端猥褻的不雅內容,以及未經同意的影像操控內容,其中更包括涉及女性與兒童的內容。」
法國將調查馬斯克旗下Grok 涉於X平台生成色情深度偽造內容疑受朝鮮資助 黑客用ChatGPT偽造身份攻擊韓國目標梅拉尼婭現身國會山莊 批AI偽造色情內容頻現 籲盡快立法打擊美國教師不滿被炒 利用AI偽造校長種族主義錄音報復被捕