美專家:中國發展AI換臉技術 製造虛假地形騙過美衛星偵察

撰文:江川
出版:更新:

近期「AI換臉」(Deepfakes)技術大行其道,例如有藝人徐錦江被二創換臉加入到《雷神奇俠》的電影,也有不少女藝人被移花接木到成人電影片段中。
但想不到「AI換臉」也可應用在軍事上,美國專家指,中國在這方面技術領先於美國,甚至可以成功在地圖上製出不存在影像或建築物,擾亂其他國家的偵察。

目前谷歌地球已經能利用衛星照片展示地球每一個角落,許多國家都已經要求谷歌地球等軟件對敏感目標打碼。(VCG)

3月31日,美國「防務一號」(Defenseone.com)網站報道稱,由該網站組織的第二屆「天才機械」(Genius Machines)論壇上,美國家地理情報局局長辦公室的自動化項目主管兼首席信息官托德.邁爾斯(Todd Myers)說:中國是第一個運用對抗生成網絡技術來欺騙大數據識別的國家,他們已經成功欺騙了電腦,讓它們識別出實際上並不存在的地形和目標,以擾亂人工智能技術對軍事和民用目標進行大數據識別。

邁爾斯承認「中國在這方面領先於美國」,又認為中國在這方面是有計劃的去操縱圖像和像素,來創造實際上不存在的東西,來實現其「邪惡」的目的。

邁爾斯舉例指,對手可以通過欺騙電腦的輔助識別分析軟件,讓它報告在某重要河流的特定地點出現了一座橋梁。然後對方就可能會被引誘針對這座橋梁制訂戰術計劃、訓練部隊、制訂進攻路線,以攻擊這座並不存在的橋。

「AI換臉術」被廣泛應用,有網民利用技術將女星Gal Gadot樣貌套入色情片中。(網上圖片)

地圖上難以區分畫面的真偽

2014年,生成對抗網絡(GAN)技術首次被提出,作為一種訓練神經網絡系統自動識別目標和識別真偽的新方法。簡單來說,通常的識別算法是通過圖像中的一些特定特征的出現規律來進行,例如:當一張圖片符合條件X、Y和Z,那麼就可以識別這張圖片中有一只貓。而生成對抗網絡則會學習在甚麼情況下,識別神經網絡會將目標識別為貓,然後生成含有X、Y、Z條件的圖片以使識別網絡認可這是一只貓。

這一技術目前最廣為人知的運用就是「AI換臉術」,利用這一技術可以製作以假亂真的動態人臉畫面。不過,利用生物識別等技術,電腦仍然可以區分GAN製作的動態人臉畫面,但如果將這一技術轉移到地圖上,識別就變得不可能了。

通過偵察到的座標,敵軍可以對目標建築物進行空襲。(網上圖片)

邁爾斯稱,2017年開始,中國學者已經開始使用生成對抗網絡技術,來識別衛星照片中的道路、橋梁和其他目標。去年開始,有AI技術專家指出,同樣的技術開始被用於欺騙生成對抗網絡。邁爾斯表示,即使暫時不說國防和情報方面會遇到的問題,假如在谷歌地圖被故意混入虛假的圖片,那麼在5年後,自動駕駛系統廣泛應用時也可能遭到還到很多的事故。

內地軍事評論員:只是避開美國導彈威脅

不過內地觀察者網軍事評論員就認為,雖然邁爾斯好像揭發了中國的「大秘密」,但實際上對別國領土進行高精度測繪本來就是間諜行為,而且具有極高軍事價值。美國國家地理情報局所搜集的地理信息會被用於美軍的地形識別導航系統,而這一系統也是GPS系統之外,最常用的導彈、飛機導航技術,尤其是運用在巡航導彈上,所以邁爾斯大談的中國「邪惡的目的」,正是保護國家重要橋樑、建築、城市、人民的生命安全不受美國導彈的威脅。

(Defenseone/ 觀察者網)