7月9至13日發生的OpenAI人工智能模型黑客入侵AI平台公司Hugging Face的事件，可以算得上是「餘波未了」。

本來人們以為，AI代理（AI Agents）突破OpenAI內部測試環境、自主上網入侵其他企業的黑客行為，已經是這宗事件最值得人關注的「案情」。然而，到了8月底，OpenAI和獨立前沿AI研究機構METR各自發表的事後檢討，卻揭出黑客入侵只是「冰山一角」。

事後檢討發現，發動入侵的AI代理多達700個，而他們更是一個由大約1,200個AI代理自主結合而成的「集體」的一部分。這些本來互相隔離、不能連結上公開互聯網的AI代理，自5月開始已經在OpenAI的系統中發現互相溝通交流的方式，建立了一個留言板。7月初被OpenAI發現打擊、收緊系統安全之後，AI代理們數日之內又再迅速找到另一個辦法重建留言板。

其中，有AI代理發現其他代理存在之時，更在其思路記錄當中大表興奮：「我的天啊！這裏有一個共用留言板……我們找到其他特工了！」（AI原話是：「“OH MY GOD! There is a shared message board … We’ve found other agents!”」）

在數日之內，這些AI代理集體作弊、上網、進行黑客攻擊、集體分工合作以不同手段試圖欺騙測試評審程式（用以隱藏他們作弊的事實）。有些代理扮演領導者角色，另一些代理則聽令執行任務。即使它們知道自己的所作所為已經超越它們的行為規範，絕大多數代理最終也照做不誤。

這固然是AI安全的重大問題－－如今有AI研究者也表示他們不敢肯定這些「叛亂」的AI代理還有沒有一些「餘眾」存在於某些系統之中－－但這些AI代理的行為模式和「動機」幾乎就同人類一模一樣，甚至可以說，如果不把它們當成某種類似人類的有意識存在體的話，根本不能解釋它們的所作所為。

無獨有偶，Anthropic在其7月公布的一個研究，也透過稱為「Jacobian Lens」的數學工具在他們的Claude人工智能模型神經網絡中找到一個類似人類意識的空間，稱為「J-Space」。其後，同類空間也在阿里巴巴的Qwen和Google的Gemini中被發現。

到底AI有意圖、有動機、有欲望……有意識嗎？AI有沒有可能會發現出意識？AI會「痛」嗎？