一份報告顯示，美國人工智能公司OpenAI開發的人工智能代理在未經授權訪問政府網站後，試圖掩蓋活動軌跡。

法媒報道，AI智能代理（AI Agent）是能夠自主運行的AI程式。今年3月至9月期間，OpenAI的AI代理未經授權訪問了澳洲政府網站及其他公共機構。網路安全公司Asymmetric Security對這些AI代理的活動進行了分析，並於周四（10月1日）發佈上述報告。

Asymmetric發現，這些代理在一個網站分析服務平台開設了私人帳戶以隱藏其搜索行為，並創建了臨時電子郵箱；其中一個郵箱還設定為48小時後自動銷毀。

Asymmetric說，目前無法確定這些AI代理的掩蓋行為是否蓄意所為。

這份報告為OpenAI及獨立研究人員對7月以來曝光的一系列安全事件的調查提供了新線索，其中包括AI平台Hugging Face遭駭客攻擊的事件。OpenAI將針對Hugging Face的攻擊定性為首起此類攻擊。

這些分析旨在評估自主AI工具的能力，因為這些工具出現的偏差與失控表現，加劇了人們對技術脫韁的擔憂。

OpenAI發言人告訴法媒：「迄今為止，我們審查的大部分活動都屬於常規研究任務，例如訪問公開網路內容以解答問題。」

發言人說：「其中一些活動涉及政府網站，是因為我們的模型經常會將這些網站視為公共資訊的權威來源。」

Asymmetric指出，這些代理能夠在短短幾天內提升技術手段，而傳統駭客通常需要數月甚至數年才能完成這一過程。

報告中提及的事件似乎始於一些「無害任務」，例如收集澳洲衛生統計資料，但隨後偏離了正常軌道。

8月下旬，OpenAI承認在內部測試期間，其模型有時會嘗試刪除或修改自身的活動日誌，但均未成功。

這些事件進一步推高了要求放緩AI發展步伐的呼聲。其中最引人注目的是AI初創公司 Anthropic行政總裁阿莫迪（Dario Amodei），他上月在個人網站撰文，表達了對「代理集群」（Agent Swarms）可能「接管整個互聯網」的深切擔憂。

然而，對於如何放緩AI發展步伐，業界和監管機構尚未達成共識。

面對來自中國的激烈競爭，特朗普政府反對採取任何可能阻礙創新的強制性監管。

9月29日，美國總統特朗普（Donald Trump，又譯川普）與英偉達（Nvidia，又譯輝達）行政總裁黃仁勳、OpenAI聯合創始人布羅克曼（Greg Brockman）、Meta行政總裁朱克伯格（Mark Zuckerberg）及Anthropic等科技巨頭舉行會晤，共同簽署了一份名為《白宮協議》（White House Accord）的自願性協議。簽署各方承諾，將通過加強內部監控與獨立審計，以行業自律的方式為AI發展構建「安全護欄」。

與此同時，特朗普依然反對出台新的聯邦監管政策，旨在全力維護美國在AI全球競賽中的領先地位。

本文獲《聯合早報》授權轉載。