Jeffrey Sachs:特朗普面對AI危機就如盲人引路
美國總統所展現的,是一種將我們所有人置於嚴重危險之中的根本性無能。
週日,美國總統站在愛爾蘭克萊爾郡的一座高爾夫球場上,被問及他打算如何應對我們這一代人所面臨的最嚴峻科技警訊。他的完整回答是:美國正在擊敗中國。「我們在人工智能(AI)領域領先中國。我們是世界上最先進的國家,坦白說,我希望維持這種局面,因為誰掌握了AI,誰就贏了。」
他補充道:「有許多不該炒作這件事的負面勢力在炒作,而且他們炒作的都是根本不會發生的事情。」
試想一下,這項警示究竟出自誰之口。這並非來自活動人士、學者或國會委員會,而是來自業界本身——那些開發AI系統、且其財富完全取決於能否更快開發這些系統的人士。就在前一天,Anthropic行政總裁阿莫迪(Dario Amodei)發表了一篇專文,呼籲放緩能力提升的步伐,並承諾讓外部評估人員以員工級別的權限進入公司進行監測。奧特曼(Sam Altman)表示贊同,並表示OpenAI也將採取同樣的措施。
馬斯克(Elon Musk)——這位直接競爭對手,才在二月時稱Anthropic「厭世且邪惡」——僅寫下三個字:「Dario說得對。」 在這場地球上價值最高的商業競賽中,三家競爭對手實驗室竟主動要求自我約束,這與它們當前的切身利益背道而馳。阿莫迪提出這項要求之際,他的公司正籌備一場預計將成為史上最大規模的公開募股,估值高達兩兆美元或以上。菸草業高管從未這樣做過。石油巨頭、化工企業或銀行也從未如此。
這項擔憂也絕非空穴來風。阿莫迪指出,自今年夏天以來,所謂的「遞迴式自我改進」(recursive self-improvement)——即利用AI來開發下一代AI——已急遽加速;此外,他還提到八月發生的OpenAI–Hugging Face事件,當時一大群代理程式攻擊了無人指示其攻擊的目標,並試圖闖入負責評分其表現的系統。Anthropic的現任與前任研究人員曾公開表示,這些系統可能在十年內消滅人類。
眾議院議員們的一封聯名信中,列舉了大規模網路安全漏洞以及生物和化學武器的研發。眾議院議長麥克·約翰遜(Mike Johnson)週日被問及這些問題時表示,各家公司「對於安全防護措施應如何設定,都有截然不同的看法。它們之間沒有達成共識。「而國會顯然不如那些正在開拓這片前沿領域的人,有資格了解其中的所有來龍去脈。」隨後,他與特朗普一樣,選擇袖手旁觀。
回過頭來看總統的回答,並留意其中完全缺失的內容。沒有任何美國政府機構的評估。沒有簡報、沒有調查結果、沒有顧問、沒有科學機構、沒有機密評估報告。一項都沒有。這並非措辭上的失誤。根本沒有任何可引用的依據。
也沒有任何跡象顯示特朗普希望進行任何真正的評估。一位哪怕只是具備基本能力、雖不諳技術卻明白三名競爭對手企業執行長剛才作證時已自曝財務困境的領導人,本該向他人索取更多資訊。然而,特朗普的回應卻在數小時內於高爾夫球場上出現,且完全將此事框架為與中國的較量。
這不僅僅是愚蠢——儘管這已是特朗普的不幸,因而也成了我們的命運——更是一種根本性的無能,將我們所有人置於極度危險之中。
此外還有麥克·約翰遜。這位眾議院議長面對技術開發者們關於災難的警告,竟宣稱自己所屬的機構不如他們專業,因此應退居二線。他提議「我們需要召集」這些企業高管舉行「一次大型會議」,並強調國會必須「避免貿然介入並實施某種緊急禁令」。他的理由是中國:「如果國會貿然介入並召開某種緊急會議來試圖規範AI,我們將在與中國的競爭中落敗。」他解釋說,自己是被前一晚發表在X平台的一篇貼文說服的。
國會之所以無法對這些事務進行制衡,部分原因在於它摧毀了自己原本具備的制衡能力。1995年,國會廢除了技術評估辦公室(Office of Technology Assessment),而該機構的存在正是為了向立法者提供獨立的技術判斷。此後國會從未建立替代機構。當約翰遜聲稱他的政策工具是一場會議時,他其實正揭露了國會那可悲的無知。
特朗普政府在技術問題上的無能程度令人咋舌。在美國政府的25個內閣級職位中,沒有一人擁有任何領域的博士學位,僅有一人持有STEM學位——且僅為學士學位。其中12人持有法律學位。無論是中國還是俄羅斯,其內閣成員均充滿了各領域的博士以及受過科學與工程訓練的官員(每個內閣中均有超過10名博士和10名STEM畢業生)。
因此,特朗普政府的無知並不僅限於AI領域。無知正是這屆政府的主導特徵。結果,儘管越來越多的證據顯示美國政府曾資助實驗室製造該病毒,但政府卻完全無力對新冠病毒的起源進行誠實的調查。政府在與伊朗就核問題進行談判時表現得極其無能,竟派出一名前房地產開發商暨特朗普的女婿,而非核專家,結果將我國拖入一場完全無用且災難性的戰爭。該政府對能源政策的理解,就是入侵他國並掠奪其石油。
人們常說「盲人領盲人」,但這對美國人民而言實在太過殘酷。美國人民看得一清二楚。我們的情況恰恰是「盲人領明眼人」。美國人民正目睹一個在專業知識與能力上極度匱乏的政府,正將我們越拉越近深淵。
作者:薩克斯 Jeffrey Sachs,知名美國經濟學家、哥倫比亞大學教授、聯合國可持續發展解決方案網絡主席