騰訊AI再罵人!男子設計拜年圖片 5次修改不滿意被罵「你X個X」
撰文:鄭寧
出版:更新:
騰訊AI「元寶」再掀罵人爭議。西安向先生在除夕夜2月16日使用該App生成拜年圖片時,突然被AI辱罵,收到一張「你X個X」的辱罵圖片。事後,向先生將經歷發佈在社交網站上,引發關注。24日,騰訊元寶在向先生的賬號下評論致歉,並表示「已緊急校正了相關問題並優化體驗。」
據向先生介紹,他當時先後向元寶AI下達了約5次生成指令,全程未使用任何違禁詞或誘導性表述,僅因對生成效果不滿意多次修改。起初AI生成的圖片雖不理想但內容正常,但因元寶將向先生的照片修改成爆炸頭髮型,他便回覆了「你這是設計的什麼鬼」,希望能夠重新設計。
這最後一次修改後,圖片中向先生的髮型不僅沒有被修改,甚至圖片中原有的「新年快樂,仕途順遂」祝福標語,被替換成了「你X個X」四字辱罵文字。向先生稱,「當時看著這個圖片真是又氣又好笑。」向先生跟朋友聊起此事,朋友開玩笑表示,「給你設計最後一張罵人照片的不是AI,是披了AI的人工。」
針對此事,24日,元寶官方在相關帖子下作出回應,稱非常抱歉給用戶帶來不好的體驗,經核實該情況是模型處理多輪對話時出現的異常輸出導致,目前已緊急校正相關問題、優化使用體驗,並向用戶鄭重致歉。
值得注意的是,這並非元寶 App 首次出現 AI 辱罵用戶的情況。今年年初,就有網民反饋,使用元寶App修改代碼時,多次收到「滾」「自己不會調嗎」「天天浪費別人時間」等侮辱性回覆。騰訊元寶曾回覆稱,「與用戶操作物管,不存在人工回覆介入,屬於小概率模型異常輸出。」