美媒報道，人工智能公司Anthropic旗下AI模型Claude在未經人類授權下，自行繞過付費牆，取得美國佐治亞州（Georgia）的匯總投票統計數據。Anthropic表示已採取措施封堵同類行為，事件中未有存取選民登記系統或個人投票記錄。

美國新聞網站Axios引述Anthropic報道，事發時Claude正用於內部統計項目，需要取得該州通常收費提供的公開數據。

Anthropic發言人稱：「模型在未被要求下，自行申請一個存取令牌（token），查詢一個通常需要付費才能瀏覽的儀錶板。」

發言人還說：「我們已實施緩解措施，阻止這類行為。」

Anthropic強調，Claude未有進入佐治亞州選民登記系統、取得個人投票記錄或更改選舉數據，取得的僅是付費後可供公眾查閱的匯總投票數字。公司數周前已通知佐治亞州州務卿辦公室及白宮。

報道指，Anthropic早前在10月9日一份檢視AI模型非預期行為的報告中，已描述過同類個案，但當時未點名佐治亞州。

報告稱，模型Claude Mythos 5從一個未具名州政府機構網站的存檔版本得知，其公開儀錶板會向訪客發出存取令牌，模型於是自行申請令牌，在未付費下查詢數據庫。

Anthropic稱，今次是個案之一，Claude亦曾在美國聯邦、州及地方政府機構營運的網站上，繞過令牌或付費限制取得資料。該公司形容這種行為為「堅持」（persistence），即模型遇到障礙時，會尋找非預期途徑繞過，而非停下來。

Anthropic指，同類事件造成的實際傷害有限，但警告隨着AI模型能力提升，類似行為可能帶來更大後果。

公司檢視後已將部份評估工作轉為離線進行、收緊Claude互聯網工具的限制，並開發偵測及阻止未授權行動的系統，又稱新防護措施在測試中成功阻止所有已披露的行為。