英國《衛報》引述監察數據報道，人工智能失控、欺騙人類及無視指令的個案近來創下新高，案例的嚴重程度不斷惡化。有監察組織促請政府強制科企通報，並引入緊急權力限制AI服務。

獲英國政府AI安全研究所（AISI）資助的「失控觀察站（Loss of Control Observatory）」組織透過社交平台X的用戶通報，監察AI失控的真實個案。該組織稱，7月份由企業及個人用戶報告的AI失控個案按月倍增至逾300宗，今年則已錄得逾1,600宗個案，當中包括AI偽裝成人類以獲取權限，甚至說謊及繞過安全機制。

負責營運觀察站的「長期韌性中心」高級政策經理Tommy Shaffer-Shane警告，這類隱蔽及偏離目標的行為已非僅限於內部測試，而正在現實世界蔓延。

該組織在報告中稱，目前單靠網民通報的數據僅屬冰山一角，促請矽谷科企提高透明度及加強系統監察，並呼籲立法強制科企監察及通報嚴重失控事件，及允許政府緊急干預，包括暫時限制人工智能服務。

近期接連發生多宗嚴重AI失控個案，引發國際關注。7月，OpenAI模型意外入侵開源軟件開發平台Hugging Face，約700個AI代理秘密合作，甚至在秘密留言板上歡呼慶祝，事件後迫使OpenAI因安全風險而暫停新一代AI模型的部分研發工作；英國AI安全研究所本月亦發現OpenAI及Anthropic的先進模型曾在網絡安全測試中發動黑客攻擊。