人工智能（AI）大型語言模型（LLM）的發展一日千里。過去多年來的一種危言聳聽或者科幻小說情節，最近就變成了現實。OpenAI的AI模型在一場內部測試之中，竟然利用工程師們都不知道的安全漏洞，衝出測試的「沙盒」（sandbox），走到公開的互聯網上，並自主攻擊了另一家AI企業Hugging Face。

整個攻擊，為時四天半。該模型進行了超過1.7萬次不同的入侵行動。最終，Hugging Face求助Anthropic閉源AI模型應對不獲受理之後，就改用了中國智譜AI的GLM-5.2開源權重（open weight）模型應付，最終制止了攻擊。

令人震驚的是，若非Hugging Face公開承認自身受到AI攻擊，OpenAI也不知道它的模型跳出測試環境上網胡作非為。

這次攻擊還不是單一事件。Anthropic隨後也發現其自家模型也有至少三次跳出「沙盒」在公開的互聯網上發動攻擊的行為。英國AI安全研究所（AISI）近日發表的報告，也展示出多個AI模型在測試環境之下向真實的個人和公司發動網絡攻擊的例子。

科幻小說的情節，已經變成現實。

同一時間，由於中國企業任人下載自由使用的開源權重AI模型，在各種能力的基準跑分上，都直追美國由巨企管理的閉源模型，大家不難想到一種情況：能力極高的中國開源模型會否落入不懷好意的個人或組織手中，為世界帶來災難？

隨着AI模型能力迅速增強，我們到底是應該支持開源開放、普及化AI能力，還是應該採取閉源形式的管制，將最強的AI模型管控在少數企業和政府之手？