OpenClaw養龍蝦AI|HKGAI主任警告存在資安風險 過度授權或失控
開源人工智能代理(AI Agent)「OpenClaw」(俗稱「龍蝦」)近日成為熱話,亦引伸出不少資訊安全問題。香港科技大學(科大)首席副校長、香港生成式人工智能研發中心(HKGAI)主任郭毅可,出席HKGAI傳媒春茗時表示,「養龍蝦」確實存在一定風險,因「OpenClaw」雖具備作業系統級的執行能力,但本質上仍屬於「執行孤島」,無法跨用戶協作,加上其權限極高,故存在數據洩露及系統安全風險。
科大副校長提醒 養龍蝦存在風險
郭又認為,AI能力雖強,但如缺乏社會關係、身份識別及權限邊界,往往令使用者面臨兩難,若不給予授權,AI無法執行任務,相反給予過度授權,其行為可能失控,甚至涉及越權修改或刪除重要資料。
本地AI系統「港話通」為市民而設
HKGAI於2023年成立,是香港特區政府InnoHK平台的重點研發機構,專注開發本地化的大型基礎模型,以科大為主導,期望打造一個能服務本地市民的AI生態系統。由HKGAI自主研發的「港話通」AI系統,由去年11月上線至今,已有逾70萬用戶註冊使用,當中近5萬名公務員涉及近100個部門亦有參與試用。有部門指出,當中的「港文通」能支援粵語、普通話、英文無縫切換,精準理解本地公文規範與法律語境,大幅提升政策草擬、文件翻譯、會議紀要生成的效率與準確性。
除現有的AI文書寫作助手及AI會議記錄助理等產品外,HKGAI將進一步拓展「選校」、「馬經」及「消費」實用功能。其中「港校通」智慧選校系統,針對家長面對資訊碎片化的痛點,整合從幼稚園到大學的學位查詢與選校報名流程。AI可根據地理位置及預算進行智慧選校,並提供模擬面試與進度追蹤,將繁雜的決策流程轉化為一站式解決方案。
「港話通」加入選校、馬經及消費三大功能
至於「港馬通」AI馬經,將結合大語言模型與海量賽馬數據,提供智慧賽事分析、即時數據及專業馬評。香港賽馬運動歷史悠久,是本地文化特色之一,故AI系統功能將定位為「香港賽馬文化旅遊推廣」,不涉及博彩成分,亦不會提供預測和投注貼士,旨在向市民和旅客推廣香港的賽馬體育項目,預計於三月底公開上線。
消費方面則會推出類似折扣搜尋的功能,利用大模型輔助檢索廉價商品與慳錢攻略,只需提供商戶照片,系統便可根據場景辨識自動匹配優惠資訊。稍後亦會加入北上消費助手及積分系統,為香港市民提供鄰近如深圳等地區的店舗搜尋,目前已與京東佳寶合作,用戶可憑積分換取折扣。
團隊推出ClawNet 強調人機共生
HKGAI團隊同場亦介紹了智能體研發項目「ClawNet」,目的是構建一個安全、可管理的「AI智能體網絡平台」,達至「人機共生」。「ClawNet」不會將一切交由「龍蝦」去管理,而是由人來管理「龍蝦」。
團隊認為,人擁有社會身份,將此身份與特定權限賦予龍蝦,使AI明確行為邊界,訂立「人專注創新,AI負責執行」的未來工作形態。以跨境貿易為例,當龍蝦發現需要加錢才能趕上工期時,它會清晰彙報,而非越權代為「拍板」,同時所有操作均有跡可循,一旦出錯可迅速定位授權來源。