ChatGPT製釣魚電郵變犯罪工具　釣魚網詐騙案按年升11倍達1.3萬宗

人工智能（AI）聊天機械人ChatGPT最近成為全球熱話，香港電腦保安事故協調中心（HKCERT）今日（7日）公布，本港釣魚網站事件連升三季，去年第四季首次錄得過萬宗達13,574宗，較去年同期上升逾11倍。報告亦指出，已有不法分子利用ChatGPT製作釣魚郵件甚至編寫惡意程式，認為AI潛在保安問題不容忽視。

HKCERT發布最新一季《香港保安觀察報告》，2022年第四季錄得13,574宗釣魚網站事件，按季升九成，較去年同期更上升逾11倍。數據顯示，84%的釣魚網站為虛假信用卡公司網站；6% 和 5% 與電訊和運輸行業相關。

ChatGPT編寫惡意程式網上販賣

報告又指，已有網絡不法分子利用ChatGPT製作釣魚郵件內容，甚至編寫惡意程式，縱使開發商已加入保安機制禁止生成惡意內容，但已有網絡犯罪分子開發規避方法，並以網絡犯罪服務方式販賣。

報告認為，ChatGPT涉及多項保安風險，例如數據私隱和保密、錯誤訊息、偏見問題及版權問題等，因AI需要大量數據進行訓練，其中可能包括敏感信息，如個人詳細信息、財務信息和醫療記錄；而且AI為求產生的結果有連貫性及通順，或會編造虛假或誤導性訊息；加上AI的訓練數據可能來自互聯網，當中資料或包含偏見和歧視成份。