美國人工智能（AI）模型Claude的開發商Anthropic發表長篇報告，披露月之暗面和深度求索（DeepSeek）等中國企業如何發起蒸餾攻擊，包括秘密將疑似解放軍、警察、國企用戶的內部訊息，發送給Claude冒充自身模型成果。

Anthropic星期四（9月10日）發表威脅情報報告，涵蓋Claude如何被濫用於網絡攻擊、影響力行動、監控和製造武器等，以及公司如何發現並阻止這些行為。

報告提到，開發Kimi系列模型的月之暗面，並沒有使用自家模型處理用戶請求，而是悄悄地轉交給Claude。月之暗面通過一個由5380個虛假賬戶組成的網絡，轉交近30萬條用戶請求。

Anthropic稱，月之暗面轉接到Claude的用戶請求包含敏感訊息。「我們不清楚月之暗面是否告知其客戶，他們的請求將被轉到Anthropic並暴露給第三方。」

報告舉例，這包括與中國解放軍有關的監控活動。一名用戶使用Kimi從監控錄像庫調取針對特定目標人物的數據，之後要求Kimi分析來判斷對方是否行為異常。監控數據涵蓋成都市數百個攝像頭畫面，如駐軍設施外、中國電子科技集團下屬機構，以及一家大型國有企業外。

一名就職於中國大型國有企業的工程師，也用Kimi構建公司內部系統，在不知情下向Claude泄露多家中國大型企業的內部代碼和有效憑證。

報告也指出，DeepSeek採用類似策略，在今年7月的14天內發起超過1210萬次的蒸餾攻擊。

案例顯示，中國一地公安局工程師在開發案件管理系統時使用DeepSeek，用戶請求之後轉給Claude。工程師繼而開發出一款工具，利用公民的身份證號碼，將個人行蹤與警方記錄進行比對。

報告也披露阿里巴巴、小米、智譜、商湯科技等中國企業的非法蒸餾行為。其中，今年5月至7月，阿里巴巴被指發起超過1.51億次的蒸餾攻擊，是Anthropic迄今監測到的最大規模。

Anthropic稱，這些發現引發人們對中國AI實驗室濫用用戶數據的擔憂。這些實驗室將Claude的回覆作為訓練數據，其中一些對話包含敏感訊息，包括來自個人用戶、大型跨國公司以及與政府有關聯實體的訊息。這些會話包含數百名終端用戶的姓名、電子郵件地址、公司數據和其他敏感數據，涉及至少十幾種語言。此類做法很可能違反了隱私法律和這些實驗室自身的服務條款。

報告也提到，Anthropic還發現一些與中國政府有關的用戶行為，包括利用Claude追蹤、分析敘利亞境內的維吾爾族人和維吾爾族武裝組織，並招募其中能提供訊息的人；對天主教、藏傳佛教和台灣基督教社區的情報行動；利用Claude支持「維穩」監控和跨國鎮壓；將Claude作為自動化的「輿情監測」和情報分析系統等。

另據中國外交部官網消息，中國外交部發言人毛寧星期五在例行記者會回應法新社記者提問說：「我不了解你提到的具體情況。中國始終堅持人工智能向善發展，同時堅決反對歪曲事實，對中國進行攻擊抹黑。」

本文獲《聯合早報》授權轉載