【軍備競賽】得人工智能者得天下 致命自主武器「殲滅者」非空想

撰文:梁凱怡
出版:更新:

電影《未來戰士》(Terminator)中,人工智能機器天網(SkyNet)派出「殲滅者」機器人消滅所有倖存的人類。「被造之物」擁有自我意識後,反過來殲滅「造物者」是不少科幻電影的橋段。隨科技日益進步,距離人類兌現「自我實現預言」的一日或者愈來愈近。
人工智能(artificial intelligence,AI)科技近年突飛猛進。軍事大國也積極開發軍用人工智能,不但用來協助人類作出更準確的判斷,甚至研製更強大的武器,包括致命自主武器(lethal autonomous weapon)。
俄羅斯總統普京曾形容,得人工智能者得天下。回顧人類軍事歷史,火藥和核武器的發明均掀起重大變革。不少專家也認為,人工智能將會是新時代軍備競賽的重要一環。

人工智能大躍進

現代人工智能的大躍進始於2012年。研究員成功開發「深度學習」(deep learning)技術,利用深度類神經網路進行學習。自此,人工智能系統開始超越人類,能夠辨識人臉、分辨物件、抄錄演說甚至玩複雜的遊戲

哲學家米勒(Vincent Müller)和博斯特倫(Nick Bostrom)在2011年至2013年期間進行的研究,訪問170名人工智能專家。普遍認為高等機器智能(high-level machine intelligence)有九成機會於2075年前誕生,亦有一半機會於2040年出現。

科學家很清楚人工智能系統的威力,也擔心終有一天會研發出「殲滅者」般的自主武器。物理學家霍金(Stephen Hawking)曾警告規管人工智能的重要,形容人工智能有可能是人類文明歷史中最壞的事件。Tesla行政總裁馬斯克(Elon Musk)亦指,人工智能軍備競賽或成為第三次世界大戰的藥引。

軍備競賽:電影《復仇者聯盟:奧創紀元》(Avengers: Age of Ultron)中,人類創造強大的人工智能「奧創」,卻反過來受到威脅。(電影截圖)

中美俄分途出擊

中國、美國和俄羅斯三大軍事勢力早已磨拳擦掌。2017年,中國國務院公布《新一代人工智能發展規劃》,揚言於2030年前成為世界主要人工智能創新中心。2019年,美國總統特朗普公布《美國人工智能計劃》(American AI Initiative),追求國家戰略發展。

雜誌《外交政策》(Foreign Policy)形容,中國採取的戰略最進取,專注發展能夠執行戰略決策的人工智能。相比起人類,電腦能夠處理大量信息,如部隊準確的全球定位系統(GPS)位置、無人機和衛星報告。利用人工智能作決策,自然佔有軍事優勢。

美國的策略相對較保守。奧巴馬時期的國防部官員發表第三次抵銷戰略(Third Offset Strategy),提到華府將主力發展「人機合作」,而非製造全自主系統,意味機器將協助人類作出更好的決定。例如利用「電腦視覺」分析影像和鎖定目標,協助人類操作無人機。

至於俄羅斯則採取最直截了當的方向,將人工智能應用於軍事硬件。俄羅斯戰術導彈公司(Tactical Missiles Corporation)已着手開發能夠於飛行途中改變航道的自我導航導彈,用來避開防導系統。

軍備競賽:美國計劃讓艾布拉姆斯(Abrams)坦克控制其他自主坦克來攻擊敵人,同時保護有人的坦克。(視覺中國)

「未來戰士」指日可待

如同「殲滅者」的殺手機器人又會否出現?隨人臉辨識和決策演算法愈來愈成熟,科幻劇情或許會成為現實。

人工智能的威力可謂毋庸置疑。2016年,美國研發的人工智能系統阿爾法(Alpha)於模擬戰鬥中擊敗兩架戰機。代表人類出戰的退役空軍上校李(Gene Lee)未能擊中目標,屢戰屢敗。他形容,人工智能系統似乎能夠洞悉自己的意圖,並即時作出反應。

人工智能研究員拉塞爾(Stuart Russell)認為,技術上,自主武器比起自動駕駛汽車更簡單。現時,美軍已在駐軍地區部署大量軍事無人機。不過無人機仍由人手操控,決定何時展開攻擊。最簡單的致命自主武器不會如同「殲滅者」,反而是沿用現有的軍事無人機硬件,將人手操縱改為由演算法操縱。

升級版的無人機能夠消除傳送信息的「時差」,同時能大量部署。演算法可以設定「殺人名單」,攻擊特定目標,或者從影片或實戰中訓練,學習分辨攻擊目標。有人提出,由於機械不會感到疲累,因而不會犯錯,也因為不帶有復仇情緒,所以不會犯下戰爭罪行,蓄意殺害無辜平民。

軍備競賽:美國前總統奧巴馬執政期間,派駐戰區的美軍數目大減近九成,但無人機空襲次數卻增加十倍。圖為美國空軍的全球鷹(Global Hawk)無人機。(視覺中國)

「殲滅者」將誤入歧途?

如果繼續發展致命自主武器,武器最終會變得廉價。現時要購買無人機已經極為容易,隨技術改進,價錢也將持續下降。如果有人於戰場使用無人機,毫無疑問亦會有部份無人機落入敵方。製造便宜、容易擴散的大規模殺傷性武器,將會反過來被敵方利用。

致命自主武器甚至會成為執行暗殺、種族清洗和種族滅絕的「絕佳工具」。生命未來研究所(Future of Life Institute)通訊總監康恩(Ariel Conn)指,無人機能夠將特定種類的人設定成目標,這亦是最直接的應用方式。

由機器完全取代人類上戰場,背後仍有極大爭議。退役美國陸軍遊騎兵沙爾(Paul Scharre)憶述自己於阿富汗執行任務時,塔利班恐怖份子派出一名6歲女童報告美軍位置。根據戰爭法,戰鬥人員沒有年輕限制,當時射殺女童亦完全合法,但美軍沒有如此做,因為他們認為殺害兒童是錯誤的。換成是按戰爭法運作機械人的話,也許女童已斃命。沙爾說:「合法的事和正確的事並非必然相同。」

要避免「自我實現」,發展人工智能的過程應該審慎。康恩說:「我們試圖避免一場人工智能競賽。沒有人想競賽,但沒有人想不代表不會發生。引發人工智能競賽的其中一項因素是武器的競賽。」如果有國家過於注重發展軍用人工智能,其他國家也自然跟隨,最終或釀成無法挽回的後果。

軍備競賽:中國、美國和俄羅斯是世界僅有的核武三位一體國家,意指同時擁有陸上洲際彈道導彈、潛射彈道導彈和戰略轟炸機。圖為俄羅斯的亞爾斯洲際彈道導彈。(視覺中國)

▼想觀看更多俄羅斯閱兵儀式的相片,請點擊以下圖輯:

+2