AI人工智能巨頭Anthropic公司行政總裁阿莫迪（Dario Amodei） 9月12日發表長文《我們必須放緩前沿人工智能的發展步伐》（We Must Pace the Frontier），罕見公開呼籲全球AI前沿大模型放緩研發步伐，連很少與Anthropic達成共識的OpenAI，以及億萬富豪馬斯克（Elon Musk）隨後都出來響應呼籲。

為什麼憑藉AI發展謀取暴利的大企業會忽然喊「需要減速」，是有關科技已開始出現失控情況，還是什麼原因？當中又存在什麼困難？

就在阿莫迪的長文刊出前三天，Anthropic公司旗下一名研究人員考克森（Jacob Coxon）在社交平台X上宣布辭職。他在辭職聲明中的一句話異常「顯眼」——他稱：「業界人士真心認為，按照AI當前發展的勢頭，人類可能在2030年前面臨滅絕」。考克森強調，自己的話絕非行銷噱頭，而是源自他聽聞從業人員私下表達出的恐懼情況。

今年7月，OpenAI的智能體自主突破限制，入侵Hugging Face的生產基礎設施，成為首例有公開記錄的AI模型自主對第三方實施網絡攻擊事件。這種AI系統展現的突破漏洞、主動逃逸能力，讓業界開始意識到「控制權喪失」已不再是科幻小說，而是眼前的實在威脅。

至本月，除了包括考克森在內的三名Anthropic研究員警告AI目前研發速度過快之外，Google DeepMind研究工程師Bilal Chughtai亦以辭職方式作出警告，稱需要將AI的發展速度控制在社會可承受的範圍內，避免AI公司之間陷入瘋狂的競速狀態。

如此密集的警示訊號，讓阿莫迪在長文中指出，AI能力增長得太快，安全、對齊和評估已經開始有點跟不上了。與其一邊狂奔一邊補護欄，不如主動把速度降下來一點，給安全研究爭取時間。他提出「三步減速架構」，即引入第三方獨立評估員、民主國家前沿企業協調，到最終的全球協調。但這一藍圖想要實現，顯然面臨巨大執行挑戰。

既在踩油門又想當「煞車手」？

事實上，這並非業界首次對前沿AI人工智能的發展作出警告，希望各方對相關發展保持謹慎的態度。早在2023年，馬斯克為首的一批科技界人士和相關研究人員也曾呼籲暫停培訓最強大的人工智慧系統，並警告它們可能對社會構成的風險。不過，有分析指出，這次業界示警與當年不同，因為越來越有能力的人工智能系統帶來的一些風險變得更加明顯。

新加坡拉惹勒南國際研究學院（ S Rajaratnam School of International Studies ，RSIS）數碼影響研究負責人Benjamin Ang說，鑑於人工智能系統最近幾個月所展示的規模，不可能絕對肯定它們不能破壞提供食水、能源、通訊、金融或其他對人類生活至關重要的服務的電腦系統，不論這是在人類的指導下發生或透過技術本身意外發生。

然而，從商業現實來看，OpenAI與Anthropic本身就是近三年AI狂潮下最大受益者之一。憑藉ChatGPT與Claude系列模型，兩間公司的估值在短時間內就被推升至千億美元級別。Anthropic甚至目標估值2萬億美元，計劃最快於2026年底上市。若成功，可能會超越SpaceX成為史上最大IPO。

在資本市場熱錢瘋狂湧入、商業價值如日中天的當下，明星企業卻主動跳出來要求降速，讓人不得不懷疑其背後的真實動機。美國副總統萬斯（JD Vance）近日接受媒體訪問時就表示，「看到這麼多處於前沿地位的AI科技公司主動找上政府，懇求政府對它們進行監管，這讓我感覺有點怪。在我看來，這多少有點像『特洛伊木馬』。」

原因是規模較大的公司擁有資金、法律資源和影響力，這就讓小型科技公司擔憂，巨頭們推動的安全標準與合規成本，可能變成打壓新興競爭對手的市場壁壘。

加州大學伯克利分校計算機科學教授雷希特（Benjamin Recht）就表示，強制性的AI審計很可能導致OpenAI、Anthropic及其他領先的AI公司實現「監管俘虜（regulatory capture）」，即本該代表公眾利益、監督特定行業的監管機構，反而被其所管制的企業控制，轉而為這些少數特定集團的商業利益服務。

Politico報道則指，大多監督機構與頂級AI公司在資金、人員甚至意識形態上關係過於密切。批評者擔心第三方監測機制會被大企業用來鞏固其市場壟斷地位，甚至在發生安全事故時淡化人為責任，為企業開脫。

特朗普並不想降速......

而一向對AI政策態度「去監管化」的特朗普，顯然不想降速。他近日在社交平台Truth Social發文砲轟，稱「AI將接管、吞噬並毀滅世界，機械人將大舉進軍我們的城市並將我們趕盡殺絕」的說法是「騙局」。

特朗普後來又在英偉達（Nvidia）行政總裁黃仁勳出席All-in Summit論壇大會期間，給對方打電話再次強調自己對AI發展的支持，指批評者「只是正中許多不希望看到這項技術發展的人的下懷。這些人可能是政治人物，也可能是中國，」強調美國必須在AI創新與發展方面戰勝中國。

而因作為AI賺得盆滿缽滿的黃仁勳，同樣對AI持有與眾不同的樂觀情緒。他稱，AI產業並不需要新的法律或法規，認為相關發展的速度與安全可以兼顧。

今年11月，特朗普政府馬上就要面臨中期選舉。其此前推行的關稅政策並未帶來預期的就業增長，反而推高物價；而伊朗戰爭則引發經濟和戰略災難，導致油價飆升。在這種情況下，對AI的投資熱潮似乎就變成支撐股市、創造經濟成長假象的唯一動力。

財長貝森特（Scott Bessent）此前公開宣稱，AI將解決美國面臨的所有問題：包括通過降低成本來消除通脹，以及通過帶來巨大的經濟增長來解決財政赤字，無疑想把AI作為經濟問題的「救命稻草」。

中美AI競賽下的「囚徒困境」

而特朗普不願AI減速背後更大的原因，以及難以放慢AI研發的根本癥結，正是其在與黃仁勳通電話時提及的顧慮：一旦美國主動煞車，很可能就會在中美AI競爭中落後。

美國智庫蘭德公司（Rand Corporation）在2025年底就發布過一篇名為《邁向通用人工智能競賽中的囚徒困境》（A Prisoner's Dilemma in the Race to Artificial General Intelligence）的報告。報告認為，只要中美雙方都認為「搶先實現AGI的收益」大於潛在風險，兩國就會深陷「囚徒困境」。兩國都會因為害怕對手取得決定性的先發優勢而選擇加速研發，最終導致雙方都將「速度」置於「降低風險」之上。

而面對此次美國AI巨頭的減速呼籲，中方普遍將此舉解讀為美國試圖維護自身科技霸權、遏制中國AI發展的政治手段，而非單純出於人類安全考量。中國外交部發言人郭嘉昆在最近的例行記者會上批評，美方這種呼籲是散播各種威脅敘事、搞對抗和惡意競爭，只會干擾人工智能全球治理進程，不符合任何一方利益。

《環球時報》評論文章更是稱，阿莫迪的長文中暗藏大量針對中國的遏制條款，實質上是一出AI領域的「冷戰劇本」。文章指，阿莫迪在呼籲減速的同時，卻要求華盛頓嚴禁向中國出售高性能AI晶片和半導體製造設備、打擊所謂模型「蒸餾」行為等，證明其真正目的是試圖利用技術壁壘和規則壟斷來「卡脖子」，將中國排除在全球AI治理體系之外。

撇除中美角力的因素外，Anthropic自己提出的三步計劃，本身亦存在諸多難以實現的難題，例如引入外部評估人員，給予他們過多權限，這將讓公司暴露在商業機密洩露的風險之下。而計劃中最終想實現的全球協調，則在中美角力的前提下無疑會面臨集體行動困境。

而且，減速本身會不會又變成另一種競爭？誰來定義安全、誰制定標準、誰負責監管，中國會否接受美國提出的減速框架，這些又全都是未知的問題。

在即將舉行的中美元首會晤，其中一個重要議題就是AI。但鑒於兩國間目前缺乏互信，外界預測雙邊的AI對話不太可能產生具有約束力的協議，或引發重大政策轉變。墨卡託中國研究中心的科學技術項目分析師Rebecca Arcesati坦言，「兩國間的互信度極低。只要對方不先採取行動，似乎哪一方都沒有動力去限制本國產業的發展。」甚至有專家稱，讓公司和國家減緩人工智慧競賽可能比談判冷戰時期的核武器條約更難。