美國AI戰略:中美新「軍備競賽」跡象堪憂?|TECH

撰文:薛子遙
出版:更新:

3月1日,美國人工智能國家安全委員會(National Security Commission on Artificial Intelligence,簡稱「NSCAI」)發布最終報告,稱美國「沒有做好在人工智能(AI)時代進行防禦或競爭的準備」。美國需要與誰進行防禦或競爭?該報告作者很清楚,競爭對手就是中國。

美國人工智能國家安全委員會是在2018年兩黨努力下成立的。它的目的是就如何「推進人工智能、機器學習和相關技術的發展,以全面解決美國的國家安全和國防需求」向美國總統和國會提出建議。該委員會在2020年完成了主要工作,本月初提交了最終報告

委員會由Google前行政總裁(CEO)施密特(Eric Schmidt)擔任主席,並由15位高知名度的技術專家、國家安全專家、企業高管和學術領袖組成,包括亞馬遜新任行政總裁、全球第二大企業軟件公司甲骨文(Oracle)的行政總裁、微軟首席科學官以及Google雲端平台的人工智能團隊負責人。

美國研究指出,中國AI論文被引用數量正迅速追趕美國。(示意圖/資料圖片)

美國為何將人工智能視為國家安全問題?

在報告發布時,該委員會副主席、前國防部副部長沃克(Robert Work)表示,人工智能工具將很快成為「首選武器」,並將加速網絡攻擊和虛假信息活動造成的破壞。由於人工智能的廣泛應用和巨大潛力,有人甚至認為,人工智能驅動的致命自主武器(lethal autonomous weapon)可能成為「繼火藥和核武器之後的第三次戰爭革命」。

人工智能技術在軍事上有很多直接的應用,比如在情報收集和作戰方面。人工智能系統在軍事後勤領域的應用已經有幾十年了,而在網絡安全領域的應用日益增多。在數字領域之外,人工智能系統正在無人駕駛飛行器和海底戰爭中進行測試。2016年,美國一名博士生開發的人工智能系統,能夠在多次模擬戰鬥中擊敗一名退役的職業戰鬥機飛行員。

圖為美國國防部一份建議將人工智能技術用於軍隊後勤的提案的第一頁。(美國國防部)

然而,根據報告,人工智能對國家安全的影響不僅限於其軍事用途。「人工智能並不是像戰略轟炸機一樣單一的技術突破。爭奪人工智能霸主地位的競賽,並不像登月的太空競賽。人工智能甚至無法與電力這種通用技術相提並論。」

電力和人工智能都是通用技術,因為這些技術可以用來實現各種各樣的任務。就像電力改變了19世紀的進程一樣,有人認為機器學習和其他人工智能技術將徹底改變21世紀。

然而,人工智能國家安全委員會的報告警告說,這種與電力的類比也有其局限性。人工智能不是能源的來源,也不是快速通訊的手段,而是一種智能決策的方法。因此,它將產生與電力不同的、可能更廣泛的後果,從增加經濟產出到建立新的顛覆性技術。正是人工智能巨大的潛能使其成為國家安全的威脅。

軍事用途只是報告中眾多人工智能問題中的一個,報告還涉及到國家競爭力和一般技術優勢。報告特別指出,人工智能對國家安全的影響包括「經濟風險」,即被一個擁有人工智能優勢的經濟對手超越的風險。

擁有本國人工智能政策的國家地圖。(史丹福大學AI指數)

過去半個世紀以來,美國軍方之所以能保持超級大國地位,很大程度上是通過保持相較於其對手的經濟和技術優勢。如果未來最賺錢的企業和最強大的技術在人工智能領域裏發展,那麼美國要想繼續保持超級大國的地位,就必須保證自己在人工智能領域的領先地位。

人工智能是國家安全的核心,因為它可以改變美國力量的基本技術和經濟基礎。從這個角度來看,我們就更容易理解為什麼報告的作者對中國這個全球最大經濟體(按購買力平價計算)如此擔憂。

報告為何糾結於中國?

「中國」一詞(China或Chinese)在報告中出現了699次,是「俄羅斯」的10倍。中國就是報告中美國以外第一個被提及的國家,而作者的意思很明確:在人工智能方面,中國的能力已構成威脅。

750頁的報告大量介紹了「中國人工智能威脅」。(NSCAI)

報告中的主席開場白指出:「我們必須贏得正在加劇對華戰略競爭的人工智能競爭。中國的計劃、資源和進展都應該受到所有美國人的關注。」執行摘要的第一頁警告說:「如果目前的趨勢不改變,中國擁有強大的實力、天賦和野心,在未來十年內超越美國成為人工智能領域的世界領導者。」

換句話說,在該委員會看來,中國之所以是一個威脅,是因為它是唯一一個擁有足夠的「實力、天賦和野心」的國家,可以消除並逆轉美國國家安全所依賴的經濟和技術優勢。

為什麼委員會「認真對待中國超越美國成為世界人工智能領導者的野心」?這些擔憂可以追溯到2017年中國國務院題為《新一代人工智能發展規劃》的一份計劃,該規劃概述了中國「抓住人工智能發展的重大戰略機遇」的目標。

在中國,教育、醫療、5G、電力、製造金融、交通等多個行業領域都正在進行與AI技術的融合。(VCG)

該計劃為此提出了三步走的建議,而最終目標是到2030年,使中國人工智能在基礎研究和技術應用方面的能力達到世界領先水平,使中國成為全球人工智能創新中心。

中國的這一計劃在美國引起了很大的關注,尤其是軍方和情報界,他們擔心美國在人工智能和基礎研究方面都會落後。然而,這些擔憂往往是基於對未來趨勢的擔憂,而不是實際數據。

2019年,美國安全和新興技術中心(Center for Security and Emerging Technologies,簡稱CSET)的研究人員通過開源數據發現,中國不太可能像美國許多人所宣稱的那樣,正在每年投入數百億美元用於人工智能研發。而且,在史丹福大學今年發布、考慮了多種經濟和研發因素的人工智能活力榜單(AI Vibrancy list)中,美國以較大的優勢位居第一。如果還考慮人均指標,中國僅排在全球第四位,僅次於新加坡和瑞士。

不過,儘管如此,報告還是堅定地認為中國帶來人工智能的競爭威脅。為了與中國人工智能的支出相匹配,委員會的核心建議之一是「大幅增加」聯邦在人工智能方面的支出,「每年翻一番,從2022年的20億美元,到2026年的320億美元」。

史丹福大學發布的2020年全球人工智能活力榜單。(aiindex.stanford.edu)

看來,中國的經濟實力加上其10年人工智能規劃,吸引了美國決策者的想像力,這也讓他們產生了劇烈競爭的心態。

這是AI軍備競賽的開始嗎?

雖然報告沒有使用「軍備競賽」一詞,也提到了合作的必要性,但作者的最終邏輯還是明確的:「美國政府必須擁抱人工智能競爭,並組織起來贏得這場競爭。」報告作者明確表示,他們認為在人工智能競賽中失利的威脅「需要採取全面的、全國家(whole-of-nation)的行動」。

整份報告都充滿了對中國人工智能規劃背後的「中央計劃和國家指導的經濟模式」的戒心。因此,報告重點提出了通過「政府主導的技術戰略」提高美國自身人工智能治理能力的建議。

中美在人工智能領域競爭激烈,圖為2019年7月,中國南京軟件產業博覽會上的人工智能機器人展台。(VCG)

除了增加資金,報告還建議想辦法培養和吸引更多的人工智能人才進入美國政府。報告建議建立一個「數字軍團」(Digital Corps),將熟練的技術人員引入政府,並建立一個「數字聯邦軍事院校」(Digital Service Academy):由一所經聯邦政府的認可的大學提供補貼教育,以換取學生畢業後在政府工作一段時間的承諾。

通過將更多的人工智能專家變成國會或白宮的工作人員,報告作者希望給決策者提供更多的人工智能知識,並對抗他們所認為的中國「中央指導的系統計劃,從國外提取人工智能知識」。

然而,有些人擔心這種心態會導致人工智能時代危險的新形式軍備競賽。他們指出,人工智能系統正在各個領域實現人類水平或超越人類水平的能力,任何錯誤都很容易逃脫人類的控制,因此,在人工智能研究中謹慎行事比以往任何時候都重要。相反,人工智能軍備競賽會鼓勵各國加快研究速度,追求越來越高風險的技術。這可能會使人類面對的人工智能的風險越來越難以控制。

人工智能領域的發展或能給人類社會帶來變革,但是也有人警告人工智能亦可能是人類存亡最大威脅。(視覺中國)

然而在這一點上,報告似乎將「競爭」置於「謹慎」之上。雖然報告承認中美人工智能產業之間「有着深刻的相互聯繫」,而「美國和中國並不像蘇聯和美國在太空競賽中那樣在平行通道上運作」,但報告仍然認為,在「新興的美中競爭 」中,「研究、開發和部署人工智能及相關技術的競賽已經在加劇戰略競爭」。

這種心態的一個顯著例子是,作者敦促拜登總統拒絕全球禁止人工智能動力自主武器的呼籲。他們的論點呢?中國和俄羅斯不會遵守這一規則,因此同意這一規則會使美國處於不利地位。

這種邏輯難道不是軍備競賽的邏輯嗎?

你可能感興趣