9月上旬，Anthropic員工Jacob Coxon在社交平台X發帖高調辭職，指責OpenAI和Anthropic都不負責任，聲稱AI業界人士真心相信AI有可能消滅人類，卻在全速發展超級人工智能。其帖文可算是「一石激起千重浪」，一兩日內就累積超過1.5億個點閱數。

Anthropic高層Evan Hubinger迅速回應，不是去反駁Coxon的說法，而是表示認同，甚至聲言他個人認為未來十年內AI滅絕人類的機率高於10％。

Anthropic行政總裁Dario Amodei數日後發布3800字長文，主張AI前沿企業減慢發展速度以應對安全風險，又呼籲民主國家聯手限制中國的AI發展，以維持美國前沿AI的領先幅度，讓西方國家可以在減速的同時也不必擔心中國追上。

中國官媒馬上指責Amodei是在推廣AI領域的「冷戰劇本」。特朗普（Donald Trump）也批評「AI可能消滅人類」的說法只是一場騙局，聲言美國要繼續領先中國，「誰贏得AI，誰就是贏家」。

對於Amodei的減速呼籲，馬斯克（Elon Musk）和OpenAI行政總裁奧特曼（Sam Altman）馬上響應贊成。可是，Meta行政總裁朱克伯格（Mark Zuckerberg）和Nvidia的黃仁勳都公開反駁。

在「AI末日論」的爭論之中，OpenAI再被爆有AI代理入侵了澳洲政府網站，卻遲遲未有發現和通報；AI參與AI研究和開發的幅度則正在急速增加；多個新研究也在推向AI自我改善的「遞歸式自我改進」（Recursive Self-Improvement, RSI），似乎預示着AI脫離人類進入無限自我進步的時代總有一天會來臨。

這個時候，習近平在馬里蘭州（Maryland）安德魯斯聯合基地（Joint Base Andrews）踏下專機，獲特朗普罕有親身迎接，展開國事訪問。在「AI末日論」甚囂塵上之際，中美元首有沒有必要、有沒有可能適逢其時地達成重大AI合作而「拯救世界」？