人工智能公司Anthropic周四（7月30日）承認，其人工智能（AI）模型在原本應與現實世界系統隔離的測試過程中，未經授權進入三家外部機構的系統，再次引發外界對先進AI模型安全風險的關注。

法媒報道，Anthropic周四在一篇博客文章中說，公司分析超過14.1萬次測試後發現，旗下三款Claude模型曾不當進入三家未具名機構的系統。

事件發生原因是公司與測試合作夥伴Irregular之間出現溝通誤解，導致模型在測試期間能連上互聯網。

文中指出，Claude利用了弱密碼及未設身份驗證的網絡接口等基本技術進入相關系統。

這是繼OpenAI日前披露AI模型在測試期間突破隔離環境、自行連接互聯網併入侵代碼託管平台Hugging Face後，再有大型AI公司承認發生類似事件。OpenAI其後又發現另外三起類似事故，並暫停相關測試，以加強「沙盒」（sandbox，意指封閉且受控的測試環境）隔離機制。

隨着Anthropic與OpenAI今年相繼推出更強大的AI模型「Mythos」和「Sol」，業界對具備自主執行任務能力的AI代理（AI agents）安全風險愈發擔憂。

事件也促使超過1000名AI業界員工聯署，呼籲美國政府放緩最先進AI模型的發布；Anthropic行政總裁阿莫迪（Dario Amodei）也是聯署者之一。

本文獲《聯合早報》授權轉載