隨着人工智能（AI）技術快速普及，相關應用引發的信息安全與道德倫理問題日益突顯。中央網信辦近日宣佈，將開展為期四個月的「清朗·整治AI應用亂象」專項行動，重點打擊未備案大模型、製作虛假信息及利用AI技術侵害公民權益等違規行為。

「網信中國」微信公眾號30日發文，本次專項行動將分為兩個階段進行，旨在全方位規範 AI服務，保障公民合法權益。

第一階段將重點整治7類突出問題，重點治理AI應用服務的典型違規問題。一是未按規定履行大模型備案登記義務；二是AI平台安全和審核過濾能力不足；三是大模型訓練語料安全問題；四是AI資料投毒問題；五是生成合成內容標識落實不到位；六是濫用AI技術開展違法違規活動；七是開源模型安全管理不到位。

網信辦強調，所有生成式AI服務必須按規定履行大模型備案登記程序，嚴禁「應備未備」。此外，將強化對大模型訓練語料的安全審核，嚴防「AI資料投毒」（即通過篡改訓練數據影響模型輸出）。

另外，針對生成內容標識落實不到位、提供「去標識」工具或教程等行為，未經他人授權，利用AI技術提供「換臉擬聲」服務，盜用他人形象，通過數字虛擬人技術進行直播、影像創作，或提供金融和醫療諮詢服務等，亦屬重點整治範圍。

第二階段重點整治7類突出問題，打擊信息內容亂象。一是利用AI「魔改」經典、生成「數字泔水」（既AI大量生成低質和虛假的內容）；二是製作發佈虛假不實信息；三是假冒仿冒他人；四是製作發佈暴力低俗等不良信息；五是侵害未成年人權益；六是利用AI「託管」從事網絡水軍活動；七是AI產品服務和應用程式違規。

網信辦指出，此階段焦點在於嚴打AI批量生成邏輯混亂、價值空洞的內容，嚴懲利用AI 「換臉」、「換聲」假冒公眾人物發佈不實言論的行為，以及封禁生成傷害未成年人形象的內容，及排查提供色情陪聊、「一鍵脫衣」和AI算命等違規服務的應用程式。