Anthropic公司呼籲各大頂尖人工智能實驗室考慮放緩研發步伐，並指出AI系統的演進速度極快，可能很快就能在無需人類干預的情況下實現自我改進，而這種能力恐將引發重大的社會風險。

Anthropic周四在一篇博客文章中披露了內部數據，詳實記錄了其最先進的模型正以何等驚人的速度實現性能提升。

文章指出，AI模型的進步似乎正朝着「遞歸式自我改進」的方向邁進，即AI系統能夠在無需人類干預的情況下實現自主優化。文章稱：「我們認為，如果世界可以選擇放緩或暫時中止前沿人工智能的研發，以使社會結構和相關研究能夠跟上技術發展的步伐，這對世界是有益的。」文章提議達成一項全球協議，明確如何可能放緩人工智能的研發速度，並建立一種機制來驗證競爭對手是否遵守該協議。