習特會｜佛里曼警示：若不攜手管控AI 恐引發超越911的全球災難
誰會料到自殺恐怖攻擊者會劫持客機，撞擊世貿中心和五角大廈？實驗室培養的呼吸道病毒，竟會奪走數百萬條人命，並陷世界於經濟衰退？但911恐怖攻擊事件和新冠肺炎疫情卻真的發生了。
《世界是平的》作者佛里曼（Thomas Friedman）警告，倘若美中未能儘快就人工智慧（AI）安全議題攜手合作，AI恐將帶來不堪設想的威脅。
佛里曼在《紐約時報》23日刊出的專欄中表示，他希望華府和北京能與美中AI公司共商大計，擬出一套長期計畫，在AI技術領域競爭的同時，也能同意落實AI護欄，防止能力愈來愈強的AI系統自主發動攻擊，構成嚴重的網路資安、生物、核子或金融風險。美中領導人面臨這場空前嚴峻的地緣政治、地緣經濟和科技挑戰，若避而不談，將危及全人類。
他呼籲美國總統特朗普（Donald Trump，又譯川普）24日與中國國家主席習近平會晤後，能討論出因應策略，既讓AI協助促成能源、生物學、新材料和藥物研發領域的突破性發展，同時也能防範AI可能帶來的最糟後果。
佛里曼自稱站在「放慢AI發展，除非確定能控制AI」的陣營，並指出所謂「不可監管AI，否則可能減緩創新」的論調，忽略以下三點：
1. 歷史證明監管新技術不致扼殺創新和市場
牛津大學馬丁學院新經濟思維研究所教授班霍克（Eric Beinhocker）就說：「良好的法規會建立信任感，而信任感會讓市場成長。航空業或製藥業為何能成長得這麼快、這麼壯大？因為政府監管建立信任感，讓消費者相信他們搭乘的飛機和服用的藥物安全無虞。」
今天尚未發生AI大災難，支持「放任不管」的聲音高亢；但一旦災難爆發，這些宣揚AI放任主義必受聲討。當年對社群網路大亨的縱容，導致如今付出巨大的代價。
2. AI不只是技術 也是有進化能力的新物種
班霍克解釋：
我們已釋出『矽版達爾文』。
他指出，最新的AI模型已展現有能力「自我改良、自我複製和自我保護。這三種能力結合在一起，就會以矽的速度、而不是人的速度進化。結果就是極為強大、可能帶來危險且難以控制的東西」。隨著人們賦予AI系統形體，像是機器人、無人機和車輛，更是如此。
班霍克呼籲，在確定AI系統總是符合人類福祉之前，人類必須控制AI，絕不能讓AI完全自主。
3. 特朗普政府AI政策亂無章法，缺乏跨機構合作
佛里曼指出，特朗普治國無方，政府官員多半只是坐等總統在社群媒體上發號施令，而他的社群平台貼文內容，往往是根據某人剛對他說的話，或從霍士新聞台聽到了甚麼，就據此擬定政策框架。（所幸至少財長貝森特深入研究AI議題，並與中國官員對話，但他能否影響特朗普政府其他官員，仍有待觀察）
根據《紐時》報道，特朗普身邊人士透露，特朗普之所以駁斥「AI可能導致人類滅絕」的疑慮是「騙局」，不是基於技術評估，而是因為他擔心「若促進美國經濟成長的AI榮景減緩，市場可能崩盤，衰退將接踵而至」。
佛里曼指出，這種思維注定會釀禍。他建議特朗普應採納前美國總統艾森豪威爾（Dwight D. Eisenhower）的諍言：「計畫一文不值，但規劃是一切。」意思是，沒有任何既定計畫趕得上變化，一旦戰爭或危機爆發就會打亂計畫；但若依循嚴謹的規劃過程，深入了解問題，找出哪些地方可能出差錯，並建立團隊互信，就能大幅改善迅速調適的應變能力。
這正是特朗普對伊朗發動戰爭前所欠缺的，以致美國今日付出巨大的代價。試想，比德黑蘭或特朗普聰明千倍的AI代理，若是行為失控，可能發生甚麼後果？
【延伸閲讀】特朗普力撐數據中心建設 警告反對者恐讓中國在AI競賽中取得優勢
延伸閱讀：
【本文獲「聯合新聞網」授權轉載。】
本文內容反映原文作者的意見，並不代表《香港01》的立場。