OpenAI首席科學家Jakub Pachocki警告，人工智能正在以極快速度演進，以至於越來越難以為人類所理解和控制，並稱他期望AI實驗室將出於安全考慮自願放慢開發速度。

據彭博報道，Pachocki周日在一篇文章中寫道，在相對較短的時間內，AI模型已經能夠操作電腦、與人類及其他AI系統協作，並開展研究項目。他稱，用不了多久，這些模型還將能夠在沒有人類干預的情況下改進自身，這一過程被稱為「遞歸式自我改進」。

「這是一個需要極度謹慎的時刻，」Pachocki寫道。「我擔心，沒有人為機器智能持續快速提升所帶來的後果做好準備。」

他寫道，開發者可以嘗試更嚴格地引導AI，使其與人類利益保持一致，也可以「在必要時放慢未來的開發速度」。他說：「我預計並希望，在建立共同安全門檻之前，自願放緩開發將成為普遍現象。」

AI可能取代一半的入門級崗位

Pachocki的言論與AI科技公司高管更廣泛的悲觀警告相呼應。Anthropic 執行長Dario Amodei曾警告，AI可能取代一半的入門級崗位。OpenAI執行長Sam Altman過去也曾作出類似預測，但他上周接受彭博電視採訪時表示，AI行業在向公眾傳達這項技術可能給人類帶來的益處方面做得還不夠。

不過，AI產品高速迭代的同時，網絡安全能力、科學發現以及一些長期數學難題的形式化處理方面也取得了突破。OpenAI以最新GPT-6 Astra模型具備先進網絡安全能力為由，選擇限制其發布範圍。Anthropic出於類似原因，也尚未向公眾發布其最先進的Mythos模型。

越來越多初創公司正在推動的恰恰是Pachocki所警告的能力，即能夠自我改進的AI。投資者正大量湧入遞歸式自我改進領域，押注這是通往真正類人、甚至超越人類水平人工智能的路徑。由前DeepMind研究人員創立的Inherent今年早些時候融資5000萬美元。知名科學家Richard Socher創立、從事類似研究的AI實驗室Recursive Superintelligence，也獲得了6.5億美元融資。

Pachocki所在的OpenAI此前曾表示，希望在不到兩年內打造出「真正的自動化AI研究員」。