來稿作者：胡曉明教授

人工智能（AI）應用越來越廣泛，有調查指全球八成「白領」在工作上使用AI，以提升生產力和效率。然而，「水能載舟，亦能覆舟」，AI無界限「成長」便利我們的工作和生活，同時也帶來安全問題與事故，例如網絡攻擊、數據洩漏、深度偽造、AI識別錯誤等，為社會帶來前所未有的挑戰。「十五五」規劃將AI定位為新型工業化的核心引擎，也是國家戰略安全的核心支柱，我們須關注及正視AI的安全隱患與風險，及早定下法律底線，以保障公眾利益與安全，同時推進AI科技發展賦能全產業鏈。

300億美元損失
管治AI迫在眉睫

AI滲透無遠弗屆，但它不是萬能也並不安全。AI現已應用於不同領域，包括自動和輔助駕駛、輔助醫療器材、AI聊天機械人、工業自動化等，但它不時都會出錯，其中最常導致傷亡事故的是自動駕駛與輔助駕駛系統。此外，美國近年亦有涉及AI的訴訟案件，指控AI聊天機器人以偏頗言語誤導心靈脆弱的用戶，即使察覺用戶有自殺傾向也未有勸告或阻止，致使其最終走上不歸路，AI應用由此也引發不少道德爭議。

今年3月初美國一間全球頂尖的管理顧問公司麥肯錫遭到一個自主AI攻擊程式突襲，其開發的生成式AI平台Lilli迅速失守，AI利用安全漏洞用兩小時便成功窺探該公司4,650萬條內部訊息、72.8萬份文件、5.7萬用戶資料，並取得讀寫權限操控Lilli。整個攻擊過程都是由AI鎖定目標、自主操作，並非由駭客人手控制，震驚各界。有機構研究估算2025年AI輔助的網絡攻擊導致全球損失約300億美元，社會正關注AI的管治問題。

偽造虛假資訊
淪為犯罪工具

隨着AI工具的普及，不法之徒也利用其作為工具胡作非為，網絡上虛假資訊泛濫，人們防不勝防。社交媒體近年充斥AI深度偽造影片，以名人影像誘導投資、推廣產品、宣傳服務等，影像與語音與真人無異。有人更被移花接木至不雅影片中，造成心靈創傷，損害名聲。有跨國工程企業員工誤墮深度偽造騙局，令公司損失近2億港元。

AI掌握海量數據及資訊，雖然用處多、潛力強，訓練數據若有偏見或錯誤將容易出錯或產生歧視，也易於被不法之徒利用。最近一套生成式AI電影《海上女王︰鄭一嫂》成本低、製作期短，但內容被批評不符史實內容，誤導觀眾，尤其不熟悉歷史的學生。

建立專門法律
明確各方責任

AI可以幫助我們處理許多問題，甚至做很多事，令人類對AI的依賴日益加深，有人甚至預測未來世界將會為AI統治。

為了應對AI帶來的種種問題，不少國家及地區已就AI建立專門法律，定下AI開發者、使用者的責任，例如歐盟於2024年通過人工智能法案，成為首部全面監管AI的法規；美國加州有法律禁止在未經明確授權下製作已故藝人的影像；紐約州要求廣告商若用AI生成人臉，必須註明「合成人臉」，否則即屬犯法須受處罰。

緊跟國家法規
健全管治框架

我國就AI已實施了一些專項法規，今年全國兩會期間，人大常委會工作報告更明確表示要加強人工智能等領域立法研究，並加快起草更全面、更完整的法律，讓AI治理由碎片化走向法制化，保障AI的健康發展。我國更表明加強AI的司法監管與打擊詐騙，當中最高人民檢察院工作報告強調嚴厲打擊利用AI的電訊網絡詐騙犯罪；最高人民法院工作報告則致力促進人工智能+的規範發展，對利用AI侵害他人合法權益行為堅決依法規制。

香港目前尚未就AI立法，我建議特區政府加快就AI管治立法，加強與內地之交流，並與業界共同努力探討完善立法的工作，定下法律底線，保障公眾利益、個人私隱及應對各種安全問題，確保AI有序發展。

作者胡曉明教授是港區全國人大代表、香港專業及資深行政人員協會前會長。

文章僅屬作者意見，不代表香港01立場。

01論壇歡迎投稿。請電郵至01view@hk01.com，附上作者真實姓名、自我簡介及聯絡方法。若不適用，恕不另行通知。香港01保留最終編輯權。