生成式AI技術發展迅速，卻遭不法分子利用科技犯案。近日日本警方拘捕涉嫌利用生成式AI技術，製作大量女星色情照，並在網上牟利的男子。警方在其家中電腦硬碟內發信啊大量AI淫穢圖像，數量超過50萬張，受害女星多達300人。疑犯供稱，賺取的款項竟是為了供養心儀的「地下偶像」。

據日媒《NHK》報道，日本警視廳於20日拘捕了居住於札幌市西區的31歲無業男子千葉達郎。他涉嫌利用生成式AI技術，製作大量女星色情照，並在發佈在網上供人付費瀏覽。其後警方在其家中電腦硬碟內，發現大量以日本女藝人為主角的AI淫穢圖像，數量超過50萬張。

內地新興「秒回師」只需即時覆機　時薪有咁多！00後沉迷月花5000

報道透露，千葉達郎自2023年夏天開始，從網上大量搜集偶像、演員、歌手等約300名女性藝人照片，並使用免費的生成式AI軟件進行深度學習，製作出淫穢圖像。然後在社交平台發布樣本作招徠，誘導瀏覽者進入特定收費網站，簽訂「定額瀏覽」合約，讓付費會員無限觀看。

報道指，疑犯雖早於2023年開始運作，但警方今次主要針對其於2024年12月至2025年5月期間，將14張模仿多名女星的猥褻圖像上傳至網站供人瀏覽的行為進行拘捕。疑犯於19日被捕，但已於21日獲釋，目前警方正繼續針對其詳細金流及受害規模展開深入調查。

學生控訴陸運會點名疏忽被屈曠課　家長絶招力證在場仍無果急求救

警方估計疑犯在兩年多的時間內，累計非法獲利高達1,100萬日圓。而千葉達郎對指控直認不諱，並向警方坦言「比起一般色情圖片，使用藝人樣貌的生成圖像迴響更大，更能賺錢。」至於款項去向，除了支付基本生活費外，他供稱大部分金錢都用於支持他喜愛的地下偶像。

警視廳搜查幹部亦指出，AI生成圖像逼真度極高，這種行為嚴重侵害受害女星名譽。加上互聯網傳播度高，不雅照流出後，數碼痕跡難以完全清除，對受害者造成的傷害幾乎是無法挽回。亦強調，將針對此類「色情Deepfake」犯罪加強執法。