AI動物影片滲入暴力性感成人內容 傳播速度驚人憂成新版Elsagate
現時,很多家長都習慣讓小朋友看YouTube影片,或者使用社交平台來片打發時間,但是家長了解孩子觀看的內容嗎?最近有網民發現,一個有近94萬追蹤者的帳號,由原本發布可愛AI貓貓動畫,到現在經常上載詭異的影片,似乎與幾年前廣泛傳播的「Elsagate」影片非常相似。
AI動物影片滲成人內容
最近有網民在Threads發布一則貼文,指在Instagram發現一個叫「Meow.story1234」的帳號,帳號原本主打可愛AI貓貓片,畫面精緻,吸引了不少追蹤者,現時有93.7萬人追蹤,但是最近的內容變得詭異而且兒童不宜,網民提醒家長小心這類奇怪AI片,不要隨便讓小朋友觀看。網民發布貼文後不久,該AI影片帳號便更改名稱為「meowflix1234」。而根據帳號歷史,這用戶已經五度更改名稱。
該帳號最近發布的影片越來越奇怪,有暴力、性感、報仇等情節,例如孕婦背著丈夫出軌,之後又生下了與醫生的寶寶,劇情誇張、荒謬又非常成人向。其他影片也有不少兒童不宜的情節,例如丈夫與護士出軌、懷孕女性被暴力對待、嬰兒跳出飛機等。
影片使用兒童向Hashtag 傳播速度驚人
影片會用一些容易接觸到兒童觀眾的Hashtag,如「#kids」、「#cute」、「#anime」、「#babygirls」。影片內容令人聯想起幾年前廣泛傳播的「Elsagate」影片。
帳號置頂的影片是在2025年2月發布,到現時已累積569萬讚好、426萬次分享次數,傳播速度相當驚人。最近發布的影片都有1萬多至4萬讚好,亦有不少留言和分享次數,情況令人擔擾。
甚麼是Elsagate?
「Elsagate」是幾年前YouTube出現的一個現象。當時有很多影片都會用《魔雪奇緣》、《蜘蛛俠》、《佩佩豬》,以及其他受兒童喜歡的角色做封面。這些影片的有真人拍攝,亦有卡通風格,影片顏色鮮艷,內容都是以暴力、性暗示、離譜情節為主。
這些影片刻意用受兒童歡迎的角色、誤導人的標題,以及可愛風格來吸引兒童觀眾。後來演算法更是經常推送這些影片,令很多小朋友都無意中看到這些不當內容,影響他們的心智發展。
後來YouTube推出專為兒童設計的平台「YouTube Kids」,透過自動篩選、人工審查和家長設定來過濾不當內容。
AI技術發展迅速 極易生成大量動畫
隨著AI技術發展迅速,有心人要製造這些影片變得更容易,只要輸入指令,AI就可以自動生成大量動畫,令這問題再次浮出水面,只是由卡通角色變成貓或者其他動物和虛構人物,但橋段和套路仍然一樣,都是包裝成可愛的卡通風格影片,實際上卻混入成人情節。
4招保障孩子安全上網
1.避免開自動播放,儘量與孩子一起看
2.偶爾檢查孩子使用的程式中「推薦內容」出現的影片
3.使用YouTube Kids或者有家長控制功能的程式
4. 見到可疑的AI角色內容,直接向平台檢舉