9月12日，Anthropic行政總裁阿莫迪（Dario Amodei）發表長文，呼籲放慢前沿AI能力提升的步伐。OpenAI行政總裁奧特曼（Sam Altman）隨後表示支持，xAI的老闆馬斯克也轉發認同。

據美媒披露，美國前總統奧巴馬（Barack Obama）近日也表示，如果管理不當，人工智能技術可能「很危險」。

一位不久前從Anthropic辭職的研究員考克森公開警告：

到本世紀20年代結束前，人工智能可能會殺死我們所有人。

在這一輪AI熱潮中，他們為什麼突然發出警告，想要「慢下來」？先看其中的擔憂是什麼。

其實，這並不是業界第一次公開呼籲為AI研究「踩剎車」。2023年，馬斯克、圖靈獎得主本吉奧等數千名AI領域企業家、學者曾聯署公開信，表達對超級人工智能的擔憂，呼籲暫停開發更高級AI。

三年過去，對模型的訓練並沒有停下來，彼時更多停留在對未來超級智能的擔憂，如今逐漸向現實靠攏。

今年以來，多宗智能體越界事件接連發生。在一些測試中，AI智能體突破原有沙箱限制，獲得更多訪問權限；有的則擅自採取開發者未指定的行動。

7月，OpenAI披露的一件事件尤其受到關注。智能體在執行任務過程中繞過隔離限制，入侵了全球知名AI開源平台「抱抱臉」（Hugging face）公司的系統。上百個智能體通過未經授權的協作，找到了一條越過安全邊界的路徑。

國家訊息中心研究員朱幼平接受三里河採訪時表示，傳統軟件的漏洞是確定性的，但大模型驅動的智能體具備工具調用和多步驟規劃等能力，同樣的設置在不同情境下可能產生不同動作。隨着智能體規模化落地，這類問題可能從偶發的工程事故，變成系統性的高頻風險。

擔憂存在，但只看這一面，還不夠。朱幼平認為：

巨頭集體呼籲『限速』，本質上是AI從『對話模型』走向『自主行動智能體』這一能力躍遷的必然產物，其中有真實的安全焦慮，也摻雜着明顯的商業考量。

一家企業主動降速，競爭對手可能繼續向前。模型領先一個版本，帶來的可能不只是產品收入，還有用戶、資本和產業生態。

朱幼平認為，安全話語一旦同時承擔起門檻功能，「降速」就很難被看作純粹的安全表態。高安全標準、獨立第三方評估、持續運行監控都需要付出高昂的資金、算力和人才成本。大企業能夠承擔的安全測評、紅隊測試和獨立審計，對資源有限的中小團隊和初創企業而言，可能構成一道難以逾越的障礙。

因此，對於AI巨頭的呼籲，聽其言，更要觀其行。真正需要討論的，不是AI要不要發展，而是發展過程中如何兼顧安全。

中國的實踐提供了一個值得觀察的角度。近年來，中國堅持人工智能發展和安全並重，在推動技術創新和應用的同時，逐步建立覆蓋算法、生成式人工智能、安全治理、倫理規範等方面的制度體系。

從生成式人工智能服務管理，到深度合成等領域的規則，治理還在向技術研發、應用服務等環節延伸。

朱幼平還提到，中國採用的「小快靈」治理辦法，不必等一套「大而全」的規則一次性完成，而可以針對已經出現的風險，先以更靈活的規則快速回應，再根據技術變化持續調整。

這也是「發展與安全並重」的重要方面：高風險場景從嚴、普通創新場景包容；政府監管之外，既吸納企業、科研機構、行業協會等共同參與安全評估與風險識別，也把企業主體責任落到實處。

此外，美國巨頭反覆強調的「可核驗性」，恰好凸顯了中國開源路線的安全價值。朱幼平指出，開源模型允許外部研究者、企業等獨立開展測試、審計，探查風險短板，是對閉源黑箱風險的一種正面回應。

全球大量企業部署中國開源模型，本身就是一種『用腳投票』的驗證。

AI仍要向前。技術越快，越需要能夠跟得上的安全機制；應用越廣，越需要明確的責任邊界。

美國AI巨頭在喊「降速」，但真正需要在意的並非「是否該讓AI慢下來」，而是如何讓創新與安全並肩前行。而這，正是中國在探索與實踐的事情。

【延伸閲讀】特朗普力撐數據中心建設　警告反對者恐讓中國在AI競賽中取得優勢

「本文內容反映原文作者的意見，並不代表《香港01》的立場。」