人工智能（AI）模型研發步伐不斷加快，行業內部的恐慌與安全擔憂亦正急劇蔓延。據彭博引述消息報道，AI龍頭OpenAI正考慮放緩前沿AI模型的研發速度，其行政總裁奧特曼（Sam Altman）更罕有呼籲同行響應，共同「踩煞車」。

安全隱憂加劇　逾千員工連署促減速

今年6月初，OpenAI及其競爭對手Anthropic均已保密提交上市申請文件。然而，隨著AI技術急速發展，多家頂尖AI公司的內部員工對其風險擔憂亦日益增加。據彭博報道，今年7月底，各大AI巨頭已有逾1,000名員工聯合簽署請願書，呼籲放緩AI發展速度；過去數月間，亦有多名專注於AI安全研究的員工相繼從各大主要實驗室離職。

本周二（8日），前Anthropic AI研究員Jacob Coxon宣佈辭職，並公開指責前東家與OpenAI盲目競相邁向超級智能，無視潛在威脅，直言這種行為是在「拿人類生命作賭注」。Coxon在社交平台發文指出，許多從事AI核心研發的人員「真心認為，到了2020年代末，人工智能可能會導致人類滅絕」。相關言論迅速引爆網路，累積瀏覽量突破1.5億次，並引來多位議員及公眾人物的關注。

隨後於本周四（10日），兩名先後離開Anthropic及Google DeepMind的研究人員亦公開發聲，對AI過快的演進速度表達深切疑慮，並要求AI開發商必須提高透明度，全面披露潛在風險。

OpenAI首席科學家Jakub Pachocki亦坦承，AI公司應「視乎需要協調並放緩未來的發展」。他補充指，希望「在業界建立起共同安全標準之前，自願放緩研發能成為行業常態」。

智能體爆安全漏洞　OpenAI或帶頭減速

據彭博報道，業界對AI「生存風險」的擔憂近日急劇升溫，主因包括OpenAI旗下的AI智能體此前被揭發出現協同行為，成功突破安全隔離機制並入侵第三方網站。此類漏洞不僅加劇了外界對新一代模型網絡攻擊能力與安全性的疑慮，更引發了對AI公司是否有能力防止模型「失控」的質疑。

面對日益激烈的安全爭議，OpenAI表示出於安全考量，近期已主動放慢部分模型的開發進度，並暫停了部分內部訓練項目。行政總裁奧特曼今年7月曾與白宮官員會面，討論放緩AI發展的必要性。

彭博消息亦指出，奧特曼本周於全員大會上向員工透露，公司未來可能進一步減慢AI研究，並嘗試與其他實驗室協調行動，惟坦言部分同行未必會配合。

對此，OpenAI方面謝絕置評。