近日，中國香港發(fā)生了一起規(guī)模巨大的AI“深偽”詐騙案，涉案金額高達(dá)1.84億人民幣。該案件引起了廣泛關(guān)注，成為香港歷史上損失最慘重的“變臉”案例，并首次涉及到了使用AI技術(shù)進(jìn)行多人視頻會(huì)議的詐騙行為。
據(jù)了解，報(bào)案人是來自一家跨國公司香港分行的員工。他收到了該公司英國總部首席財(cái)務(wù)官的信息，稱要進(jìn)行機(jī)密交易，并邀請(qǐng)了數(shù)名財(cái)務(wù)人員參加視頻會(huì)議。由于對(duì)方在會(huì)議中展示了與現(xiàn)實(shí)相符的容貌，因此并未察覺到任何異常。
然而，在接下來的15次轉(zhuǎn)賬過程中，這位員工共向5個(gè)本地銀行戶口匯款了2億港元。后來他才得知自己被騙了。
根據(jù)目前掌握的信息顯示，犯罪嫌疑人通過公司YouTube視頻和其他公開渠道獲取的媒體資料，成功地模仿了英國公司高層管理人員的形象和聲音，并利用深度偽造技術(shù)制作偽冒視頻來實(shí)現(xiàn)多人參與視頻會(huì)議的效果。事實(shí)上，在這場(chǎng)假會(huì)議中只有他自己一個(gè)人是真實(shí)的。
這些預(yù)制視頻主要以上司的角度向員工下達(dá)命令，而這位員工并沒有機(jī)會(huì)參與對(duì)話，只是被要求簡(jiǎn)單地自我介紹一次后就結(jié)束了會(huì)議。后續(xù)的指令則是通過軟件溝通下發(fā)。
目前，香港警方正在進(jìn)一步調(diào)查此案件，并尚未逮捕任何嫌疑人。此次事件提醒我們對(duì)于使用AI技術(shù)進(jìn)行欺詐行為的風(fēng)險(xiǎn)需保持高度警惕。
