警接首宗Deepfake多人視像會議案 涉AI扮嘴型配音 冒上司騙2億

撰文:何瑞芬
出版:更新:

網上「AI李家超」推銷虛假投資計劃影片幾可亂真,人工智能「深偽」(Deepfake)技術令人真假難分。警方上月底接獲首宗利用深偽手法,進行多人視像會議的欺詐案件,騙徒鎖定一間跨國公司,假冒英國總公司首席財務官,利用偽冒短訊指示香港下屬開多人視像會議進行秘密交易,多名「與會者」均是騙徒在網上下載真實影片,再用深偽技術,改變其口型及配上虛假聲音,最終受害公司合共轉帳2億元至騙徒戶口。

警方今年1月底接獲全港首宗利用深偽技術詐騙案件。左起:香港專業進修學校協理副校長林森、網絡安全及科技罪案調查科網絡安全組署理高級警司陳純青、網絡安全組高級督察陳智穎。(何瑞芬攝)

網絡安全及科技罪案調查科網絡安全組署理高級警司陳純青表示,今年1月底接獲全港首宗利用深偽技術進行多人視像會議的詐騙案件,更有別於以往「單對單」式詐騙,今次騙徒利用多人視像會議,利用技術偽造其他與會者的聲音及嘴型。

陳指出,受害方是一間跨國公司,其香港財務職員接到自稱是英國總公司首席財務官短訊,聲稱要進行秘密交易,需出席網上多人視像會議。視像會議上,有該名英國首席財務官及其他看似是英國財務職員,過程中香港職員被指示進行轉帳交易,前後轉帳15次、合共2億港元至本地5個銀行帳戶。

網上「AI李家超」及「AI馬斯克(Elon Musk)」投資騙案推銷虛假投資計劃影片幾可亂真。

他續稱,涉事香港公司約一星期後與總公司確認後,發現無該秘密交易,方知被騙報警。除該名報案職員外,同公司也有其他職員被指示出席相關視像會議,期間假扮成英國首席財務官的騙徒,也曾利用WhatsApp、電郵及「單對單」的視像會議與香港職員溝通,加深可信性。

陳純青表示,事後調查發現視像會議中,香港職員所看到的「財務官」及其他「財務職員」片段,均是騙徒在網上下載的公開影片,並利用AI深偽技術,更改其嘴型及偽冒說話內容,職員不虞有詐,最終誤墮騙局。

警:騙徒多扮成上司 減穿幫機會

他稱,騙徒大多會假扮成事主上司,加入一些「好忙」等對話,事主因作為下屬不方便插嘴,從而減少穿幫機會。在該案中,「財務官」只簡單讓職員自我介紹後就無再互動。

陳提醒市民,現時網絡科技發達,AI技術已輕易能應用,深偽技術透過學習,也不止能模仿英語一種語言,呼籲市民交易時必須有意識要做「Fact check(查證)」:「眼見未為實,一定要查證。」

遇懷疑應要求對方做指定動作

網罪科網絡安全組高級督察陳智穎亦提醒市民,遇到可疑視像會議時,應要求對方在鏡頭前做指定動作,例如點頭等,並提問測試對方身份真偽。他亦呼籲市民切勿輕易提供人臉、指紋等生物辨識資料,倘涉及匯款要千萬小心。

香港專業進修學校協理副校長林森表示,常人難用肉眼或耳朵識辨真偽,即使光線、嘴型或有不吻合之處,但因市民多用手機,在較小屏幕中難以分辨。他指面對網絡安全挑戰,業界正積極研究用「AI偵測AI」,分析相關影像雜訊分佈等,準確率達70%以上。

警方指,去年首11個月共接獲31,843宗涉及科技罪案數字,損失達50.9億元,按年分別上升53%及72%;至於涉及網上投資騙案則有4,703宗,涉額30億元,按年大增1.8倍及2.5倍。

另外,涉及「AI李家超」及「AI馬斯克(Elon Musk)」投資騙案中,警方稱暫時未有接獲有人懷疑受騙的匯報。