警接首宗Deepfake多人視像會議案　涉AI扮嘴型配音　冒上司騙2億

網上「AI李家超」推銷虛假投資計劃影片幾可亂真，人工智能「深偽」（Deepfake）技術令人真假難分。警方上月底接獲首宗利用深偽手法，進行多人視像會議的欺詐案件，騙徒鎖定一間跨國公司，假冒英國總公司首席財務官，利用偽冒短訊指示香港下屬開多人視像會議進行秘密交易，多名「與會者」均是騙徒在網上下載真實影片，再用深偽技術，改變其口型及配上虛假聲音，最終受害公司合共轉帳2億元至騙徒戶口。

網絡安全及科技罪案調查科網絡安全組署理高級警司陳純青表示，今年1月底接獲全港首宗利用深偽技術進行多人視像會議的詐騙案件，更有別於以往「單對單」式詐騙，今次騙徒利用多人視像會議，利用技術偽造其他與會者的聲音及嘴型。

陳指出，受害方是一間跨國公司，其香港財務職員接到自稱是英國總公司首席財務官短訊，聲稱要進行秘密交易，需出席網上多人視像會議。視像會議上，有該名英國首席財務官及其他看似是英國財務職員，過程中香港職員被指示進行轉帳交易，前後轉帳15次、合共2億港元至本地5個銀行帳戶。

他續稱，涉事香港公司約一星期後與總公司確認後，發現無該秘密交易，方知被騙報警案。除該名報案職員外，同公司也有其他職員被指示出席相關視像會議，期間假扮成英國首席財務官的騙徒，也曾利用WhatsApp、電郵及「單對單」的視像會議與香港職員溝通，加深可信性。

陳純青表示，事後調查發現視像會議中，香港職員所看到的「財務官」及其他「財務職員」片段，均是騙徒在網上下載的公開影片，並利用AI深偽技術，更改其嘴型及偽冒說話內容，職員不虞有詐，最終誤墮騙局。

警：騙徒多扮成上司　減穿幫機會

他稱，騙徒大多會假扮成事主上司，加入一些「好忙」等對話，事主因作為下屬不方便插嘴，從而減少穿幫機會。在該案中，「財務官」只簡單讓職員自我介紹後就無再互動。

陳提醒市民，現時網絡科技發達，AI技術已輕易能應用，深偽技術透過學習，也不止能模仿英語一種語言，呼籲市民交易時必須有意識要做「Fact check（查證）」：「眼見未為實，一定要查證。」

遇懷疑應要求對方做指定動作

網罪科網絡安全組高級督察陳智穎亦提醒市民，遇到可疑視像會議時，應要求對方在鏡頭前做指定動作，例如點頭等，並提問測試對方身份真偽。他亦呼籲市民切勿輕易提供人臉、指紋等生物辨識資料，倘涉及匯款要千萬小心。

香港專業進修學校協理副校長林森表示，常人難用肉眼或耳朵識辨真偽，即使光線、嘴型或有不吻合之處，但因市民多用手機，在較小屏幕中難以分辨。他指面對網絡安全挑戰，業界正積極研究用「AI偵測AI」，分析相關影像雜訊分佈等，準確率達70%以上。

警方指，去年首11個月共接獲31,843宗涉及科技罪案數字，損失達50.9億元，按年分別上升53%及72%；至於涉及網上投資騙案則有4,703宗，涉額30億元，按年大增1.8倍及2.5倍。

另外，涉及「AI李家超」及「AI馬斯克（Elon Musk）」投資騙案中，警方稱暫時未有接獲有人懷疑受騙的匯報。