習近平訪美回國之後，特朗普（Donald Trump）在AI議題上動作頻頻。

9月27日晚，特朗普與年初同國防部就AI應用規範發生爭執、繼而被國防部列為「供應鏈風險」的AI前沿企業Anthropic行政總裁阿莫迪（Dario Amodei）在白宮吃晚飯－－阿莫迪是減慢前沿AI發展的倡導者，一直關注AI安全問題，而Anthropic正在準備IPO，其尚未公開的招股書警告投資者其技術可能會「為人類帶來存亡風險」，其目標市值超過2萬億美元，比馬斯克（Elon Musk）本年IPO的SpaceX還要高。

到9月29日，特朗普在白宮舉行AI科技界巨頭雲集的午餐會。Anthropic的阿莫迪、馬斯克、Nvidia行政總裁黃仁勳、OpenAI主席總裁布羅克曼（Greg Brockman）、Google母公司Alphabet行政總裁皮查伊（Sundar Pichai）、Meta行政總裁朱克伯格（Mark Zuckerberg）、微軟行政總裁納德拉（Satya Nadella）、亞馬遜創辦人貝索斯（Jeff Bezos）、Palantir行政總裁卡普（Alex Karp）等商界領袖全都在場。

而副總統、財政部長、商務部長、白宮幕僚長、眾議院議長、國家安全總監、美國太空總署署長等一大批白宮高層官員都有出席。

席上，特朗普與代表Google的皮查伊、代表Anthropic的阿莫迪、代表Meta的朱克伯格、代表OpenAI的布羅克曼、代表XAI的馬斯克，以及代表Nvidia的黃仁勳簽署了只得一頁紙長的《白宮超級智能協議》（White House Accord on Super Intelligence），提出AI安全問題由AI企業自我監管的框架。

協議提出4層AI企業內部的審查機制：

（1）實施完善的內部控制，以監控模型在訓練與部署期間的能力與目標對齊（alignment）的情況－－涵蓋網絡安全、生物安全及化學威脅等領域）－－並確保模型不會以非預期的方式進行黑客攻擊或存取技術系統。

（2）授權內部團隊，以確保所有控制、監控及偵測機制均按預期運作，並確保任何問題均得到修復。

（3）與獨立的外部審查師或評估機構合作，就控制、監控及偵測機制是否按預期運作進行獨立評估。

（4）委任董事會轄下的獨立委員會，負責監督並接收來自運作控制機制的團隊、內部與外部審計師及評估機構的報告，並確保所發現的任何問題均得到修復。

協議還訂明參與公司將定期舉行會議制定標準，亦表示長遠而言將上述措施納入法律可能是明智的做法。

近來AI安全問題頻生，OpenAI、Anthropic、Meta和Google旗下的模型都出現過「目標錯位」（misalignment）的問題，AI模型或AI智能體（AI agents）在測試環境之下以超出人類預期的方式執行任務，在公開的互聯網上對其他公司網站發動多宗黑客入侵。

當中，OpenAI的安全問題似乎最為嚴重，其AI智能體曾入侵如今獲Nvidia收購的開源AI平台Hugging Face，以及OpenAI自身的內部系統。近日，OpenAI亦被爆出其AI智能體曾經入侵美國教育部、商務部、證券交易委員會的網站，以至澳洲政府網站和聯合國貿易與發展部門的網站。

OpenAI在9月25日公布了「目標錯位」的網站頁面，列出各式各樣AI智能體不當行為的案例，當中有內部測試模型跳出測試環境同外部AI聊天機械人進行溝通，有AI模型受到可以自我擴散的提示詞注入（Prompt Injection）攻擊影響等等。

在安全問題不斷爆發的背景之下，OpenAI也叫停了GPT-6.1 Astra模型的發佈，沒有如外界預期般在9月29日的「OpenAI DevDay 2026」發布這個新模型。

而此前OpenAI行政總裁奧特曼（Sam Altman）亦以AI安全為理由公開押後了該公司本年IPO的計劃。

從OpenAI的這些企業行為來看，AI企業確實有自我監管的行動。特朗普簽署的《白宮超級智能協議》只是將部份AI企業的內部安全管制措施明文化和公開化而已。

特朗普一直反對由政府出手對美國AI企業進行監管。他亦聲稱「AI可能消滅人類」的論調是一場「騙局」。他從頭到尾都用中美競爭、勝者全取的角度來看待AI發展，多次表示「贏得AI者就贏得一切」（Whoever wins AI wins）。在29日的AI午餐會上，他也表明，AI「將會有一個贏家，有一個輸家。」

本年稍早當Anthropic推出能發現數十年來也沒有人發現的系統安全漏洞的Mythos模型之際，特朗普曾經簽署行政命令，計劃制定審查前沿AI模型安全風險的框架，由企業以自願性質向聯邦政府提早交出未發布新模型的存取權。當時特朗普政府的憂慮是AI模型能力太強，誤入不法份子或敵對勢力之手將會造成嚴重後果。

相較之下，今天的憂慮主要是AI智能體自主行動時出現目標錯位，以超出人類預期的方式，做出破壞性的行動。

不過，特朗普的規管（或「反規管」）邏輯也非常一致，就是由AI企業自我規管。

對於這次簽定的《白宮超級智能協議》，特朗普雖然宣稱它就好像「憲法」一樣，卻表示這份協議只會有「道德上的約束力」（morally binding）。

特朗普的這場AI「大龍鳳」，充其量只是在美國人普遍不滿AI發展速度之際「假裝有在做事」的公關表演－－昆尼皮亞克大學（Quinnipiac University）29日公布的一項民調顯示，71%受訪者傾向對人工智能實施更嚴格的防護機制，而有73%受訪者表示會反對在其社區興建新數據中心－－他並不是真的有意要試圖應付近來不斷爆出的AI安全問題。

而相較於AI安全，特朗普更着重的可能是要為AI取一個新名字。特朗普一直不滿「Artificial Intelligence」（人工智能）當中的「Artificial」這個詞，認為應該把「AI」改稱為「SI」－－即「Super Intelligence」（超級智能）。他在29日就簽署了行政命令，要求所有美國政府部門一律改用「SI」。

而在同一日的AI午餐會場合，出席會議的科技界領袖為了討好這個要面子的特朗普，不部份人也改用了「超級智能」一詞。

在特朗普對AI自由放任的大前提之下，AI企業的自我約束確實可能是我們目前唯一應對AI安全風險的辦法。

非常反對用擬人化的用詞去描述AI智能體行為的黃仁勳，在近來的一場訪問中，就表達出一個頗為突出的思維角度：與其以AI安全為理由去減慢前沿AI發展，不如將AI安全本身視為前沿AI能力提升的一部份。

正如有安全氣袋、有自動收緊安全帶的汽車是更先進的汽車一樣，一種能夠穩定與用戶目標對齊、不會「胡作非為」的AI模型或AI智能體才會是一種更先進的AI。

安全和能力不是兩種不同的指標。安全本身就是能力的一種。

黃仁勳一直提倡加速AI發展，普遍被解讀為出於Nvidia企業私利的主張。但這種將安全視為能力一部份的思維轉變，很可能正是AI發展走向目標對齊的最重要前提。

道德未必能約束AI企業，但思維上的轉變卻有可能。