俄羅斯入侵烏克蘭的戰事持續，戰場內外，兩軍似乎都採用了人工智能（AI）應戰。除了兩國在網絡上的資訊攻防戰之外，俄羅斯甚至疑似使用了AI無人機殺敵。這場戰爭是否預示了未來戰爭中將會以AI主導？目前各國又為何仍在爭議使用AI武器與否？

上周在多個社交媒體平台上流傳一條短片。烏克蘭總統澤連斯基（Volodymyr Zelensky）身穿「招牌」墨綠色服裝，站在印有烏克蘭國徽的講台上，呼籲國民和士兵放下武器，回到家人身邊。然而，這個澤連斯基的頭部比例看起來有點大，而且面部「起格」的程度較身軀明顯，聲音和語調也較平常低沉。

假消息攻防戰

這條一分鐘的片段是明顯的「深偽」（Deepfake）。這通常是利用所謂「對抗生成網絡」（GAN）的AI技術，把聲音和畫面移花接木偽造的影像。除了在主要社交媒體Meta、Twitter和YouTube，這段影片也在通訊軟件Telegram和俄羅社交平台VKontakte上流傳。烏克蘭電視台Ukraine 24也表示，有黑客把該影片的截圖混入其網頁，並附上一段內容摘要，作為假新聞插入到滾動新聞之中。

烏克蘭恐怕早已對此有所防備。這影片應驗了本月2日烏克蘭政府的策略通訊中心的警告，它當時預告敵軍可能在準備深偽影片，顯示總統澤連斯基宣布向俄羅斯投降。影片一出，澤連斯基迅即在Facebook和Instagram上自拍還擊，形容該深偽影片是「幼稚的挑釁」，並重申：「我們不會放下武器，直到勝利為止。」

基於澤連斯基現時的知名度，加上影片造假質素太拙劣，Twitter、Meta和YouTube等社交平台很快就辨識出來並將之下架。同一周Twitter上也有另一條俄羅斯總統普京（Vladimir Putin）宣告和平的深偽影片流傳，也迅即遭到移除。然而，是次事件可能是深偽影片首次在戰爭期間使用，或許預示未來戰爭中的一條新戰線。

而且，一些科技專家提醒，下一次的深偽假新聞未必會如此容易識破。影片及圖像核實平台Truepic顧問Nina Schick指出：「雖然這段影片真的很粗糙，但將來不會只是這水平……這或會削弱人們對真正新聞媒體的信任。人們會開始相信一切都是偽造的。這是一種新型武器，也是一種強而有力的視覺假消息，並且任何人都能夠做到。」

多倫多大學公民實驗室高級研究員John Scott-Railton同意這類影片從未止息，「不應該假設它們的質素永遠那麼差」。例如非牟利組織美國海軍分析中心顧問Samuel Bendett設想：「如果這是一條更專業製作的影片，並且在俄羅斯更成功入侵基輔時或更早發布，將會造成很大混亂。」

澤連斯基的深偽影片以外，俄羅斯也在其他地方利用AI來打假消息資訊戰。例如它的網軍利用AI生成虛假人像，在多個社交媒體上開設假帳號散播政治宣傳。上月Meta透露，最近辨別不少這類假帳號，主要發表一些內容為親俄反烏的連結。

此外，AI還可在情報收集和數據分析上大派用場。Bandett估計：「俄羅斯軍方會使用某種形式的AI，來分析大量不同的數據點，包括烏克蘭軍事和民用目標、俄羅斯自己的軍隊狀況，以及與這些相關的一切數據。」然後，他說俄方會以AI作為決策工具，收集和分析數據後，制定戰略決定。同時，一間美國軟件公司Snorkel AI也向烏方請纓，聲稱會免費提供技術，可用來「分析訊號和敵方通訊，識別高價值的訊息，用來輔助外交和決策」。

自主武器競賽

回到烏俄戰爭的戰場上，也可見AI的身影。自本月中起，烏克蘭開始採用美國公司Clearview AI主動和免費提供的人面辨識技術。該公司行政總裁Hoan Ton-That說，該公司的數據庫有超過100億張圖片，其中逾20億來自俄羅社交平台VKontakte。相比匹對指紋，這樣烏克蘭應可更容易識別死者，甚至在面部有損傷下也能正常運作。此外，他說烏克蘭還可以用AI來識別俄方滲透者、打擊假消息，以及協助欠缺文件的難民與家庭團聚。

AI甚至可應用至武器上。近日在Telegram和Twitter上廣泛流傳幾張照片，烏俄戰爭中一架俄羅斯「自殺式」無人機，疑似撞毀或遭擊落而損毀。從照片看來，那似乎是由俄羅斯軍火商Kalashnikov子公司ZALA Aero研製、名為KUB-BLA的一款「滯空型彈藥」（loitering munition）。

據公司網頁介紹，這無人機外型如戰鬥機，翼展約1.2米，可以最高時速130公里巡行30分鐘，最多承載三公斤炸藥以擊毀目標。ZALA Aero最早於2019年俄羅斯一場航空展發表，聲稱它具有「實時智能偵測和物件類別辨識」功能。

這是一種致命自主武器系統（LAWS），或許在功能和用途上有所差異，但這一類自主武器基本都是假設，只要經充分訓練，AI可以在毋須人類操控下自行辨識目標和執行擊殺；理應可避免人為錯誤和情感因而更快、更精準，以機器取代士兵也可減少軍隊傷亡。美國馬里蘭大學恐怖主義與因應策略全國聯盟研究中心研究員Zachary Kallenborn指出，在戰爭中出現這種無人機，代表「『殺手機械人』的想法，亦即AI融合武器的相關技術已經有人使用」。

目前，那張KUB-BLA無人機照片仍未獲官方來源確認，也未有證據顯示俄羅斯在這次戰爭中大規模使用。不過Bendett向科技媒體《連線》（Wired）解釋，俄羅斯近年大舉擴張無人機戰力，已在介入敘利亞戰爭中使用另一款有部份自主能力的無人機；到2020年阿塞拜疆於納卡地區（Nagorno-Karabakh）與亞美尼亞的戰爭中，再次展示了這類無人機的戰力後，令俄羅斯添置更多。他補充，烏克蘭反抗之強頑在俄羅斯意料之外，使用這種無人機符合俄羅斯的戰術改變。

不論戰場內外，應用AI似乎已經是未來戰爭的必需。普京在2017年已揚言，在AI領先的國家「將會統治世界」。前Google大中華區總裁李開復也形容，「自主武器是繼火藥和核武之後，第三次戰爭革命」。

據英國智庫國際戰略研究所高級研究員Franz-Stefan Gady觀察，「自動武器系統的軍備競賽已經開始，短期內不會結束」。烏俄以外，美國也重點研發軍事AI。例如美國在陸軍第18空降兵建立了一個以AI為重心的培訓計劃，士兵參與設計軍事機器；空軍研究實驗室也花了多年研究名為Agile Condor、可以附加到傳統武器上的AI系統，去年曾在遙控的MQ-9收割者偵察機上測試。

至於另一大國中國，國務院在2017年的《新一代人工智能發展規劃》中寫明，要「強化新一代人工智能技術對指揮決策、軍事推演、國防裝備等有力支撐」。據和平組織PAX研究，在2005年至2015年間，軍事領域裏的新AI專利中，中國佔了25%。

與此同時，政府以外，當AI在戰爭中的用途漸廣，科技公司戰爭中的角色也隨時更重，未必再能夠獨善其身。在2018年，數以千計Google員工聯署反對公司向軍方提供AI技術後，Google宣布將不會與政府延續合約。然而，上周前Google行政總裁、前人工智能國家安全委員會主席施密特（Eric Schmidt）強調，烏俄戰爭應該令科技公司意識到國家安全的重要，他們應該支持政府。

該有AI戰爭法？

當然，AI有它不完善之處，用於戰爭時也有它的潛在問題。在人面辨識技術上，監控科技監督計劃行政總監Albert Fox Cahn指出，警察利用AI卻錯誤拘捕疑犯有不少先例，在戰爭中AI認錯人，嚴重的話可以令無辜平民死亡：「我們可能會看到出於善意的技術適得其反，並傷害了它本來想幫助的人。」

Hoan Ton-That也表示，公司的人面辨識技術不應該被用作唯一的身份識別來源。Cahn補充，識別死者的用途風險應該最低，但也擔心：「一旦將這種系統和相關數據庫引入戰爭，很難控制它會如何被人使用和濫用。」

也有學者認為，當AI能夠在戰爭中發揮用處的同時，更有必要提防AI的不足。瑞士洛桑聯邦理工學院的機器學習研究員Lê Nguyên Hoang也在Twitter上說：「當機器學習演算法已被用作網絡戰爭的武器，我們迫切需要找出機器學習的漏洞。」

另外，若烏俄戰爭中確實使用AI致命自主武器，或許預示了這種武器將會在未來的戰爭中更普及使用。而應否引入到戰爭之中，在國際間存在爭議。反對者認為，道德上不應該把生殺大權交予AI。聯合國特定常規武器公約（CCW）去年12月舉行會議，商討就致命自主武器制定國際條約。紅十字國際委員會主席Peter Maurer說：「若以感應器、軟件和機器取代了由人類決定生死，自主武器系統將在社會上引發許多倫理問題。」新西蘭武器管控部長Phil Twyford也指出，當AI和機器取代了人類士兵，在人命傷亡成本減少下，這種科技只會降低發動戰爭的門檻。

該如何處理AI自主武器，主要有三個方向。美國麻省理工教授、生命未來研究所創辧人Max Tegmark主張完全禁止開發和使用這種武器：「除非更多的西方國家開始支持實施禁令，否則我們這種致命自主武器將會遍地開花。」過去，不少科學界均就禁用生化武器和核武發聲，現在國際上在禁用雷射致盲武器和生化武器上有一定共識。在這個議題上，已有AI專家和科技界名人如馬斯克和霍金呼籲禁止。未能成事主要因為美國、俄羅斯、英國等大國阻撓，認為現時禁止過早。

美國主張的是，在使用這種武器時，確保每個致命的決定都是由人類所下。但這個方向的問題也很明顯，就是多少違背了這種武器的設計原意，畢竟它本身的賣點在於非人化的精準和速度。在軍備競賽下，不見得有多少國家真心願意讓步而採取這種立場。

在聯合國的特定常規武器公約會議上，中國主張各國通過對話與合作，就如何規範人工智能軍事應用尋求共識，構建有效治理機制，問題在於它提交的《立場文件》不過是一些空泛的大原則。

李開復指出，立法規管在實行上頗為複雜，因為要設下一個技術定義來實行有效規管，並不容易拿捏。例如該如何定義自主武器？如何核實某國有否違規？布魯塞爾管理學院安全外交及策略中心表示，AI複雜和用途多元，令其比核武、地雷等武器更加難以監管。

目前，AI在戰場內外的應用還是非常初步。隨着軍備研發競賽愈演愈烈，在戰爭中該如何負責任地利用AI，將是各國無法迴避的問題。