AI公司Anthropic行政總裁阿莫迪（Dario Amodei）周六（9月12日）警告AI的發展速度正在急遽加快，再次呼籲AI行業「放慢腳步」，並提出一項分三步走的實施計劃。Anthropic 將率先單方面執行第一步：賦予第三方評估人員永久的、員工級別的系統存取權限，以獨立驗證其模型的安全性與一致性。美國前總統奧巴馬（Barack Obama）亦警告，若管理不當，AI可能會帶來危險。他敦促民主黨人制定相關政策和治理議程，以應對這一問題。

綜合外媒報道，OpenAI行政總裁奧特曼（Sam Altman）、馬斯克（Elon Musk）以及Hugging Face聯合創辦人兼行政總裁德朗格（Clément Delangue）等人皆對阿莫迪的計劃表示認同或支持。

在此呼籲之前，一名前Anthropic研究員曾警告AI可能在2030年前導致人類滅絕，並批評相關企業未盡責。此外，近期發生的OpenAI代理攻擊Hugging Face的事件，也被阿莫迪引用為AI若發生「錯位」可能引發災難的潛在案例。

而奧巴馬則在近期一場私人募款活動上表示，「這項技術在私營領域發展迅速，如果我們不能有效掌控它，我認為它可能會帶來危險。」

奧巴馬亦指，如果民主黨能在11月3日的中期選舉中奪回眾議院控制權，就應推動圍繞AI政策展開公開討論。他還呼籲2028年總統大選的候選人將AI議題作為競選的核心議程之一，並製定明確計劃，以應對由此引發的安全和經濟方面的擔憂。