近日，央視八套公安題材熱播劇《警察榮譽》拿下電視劇“后黃金時段”收視第一，并獲中紀委點贊。在該劇6月12日播出的35集中，一起直接導致受害人輕生的“殺豬盤”詐騙案，使得這一殘忍的詐騙形式再度引發網友在微博上的熱議。
據騰訊發布的《2021年電信網絡詐騙治理研究報告》顯示：從案發量來看，“殺豬盤”以18.9%的占比位列詐騙類型第二；從總體損失金額來看，“殺豬盤”達到所有電信網絡詐騙的40.2%，案均損失金額也高達17.07萬元，遠遠高于其它詐騙類型的案均損失金額。據公安部數據，僅2019年1-8月，“殺豬盤”就已造成群眾損失38.8億元。
殊不知，一種新型“殺豬盤”已悄然興起，它與深度偽造技術（又稱“AI換臉”）魔鬼聯姻，手段升級，欺騙性、迷惑性更強。
老騙術驚現新“殺”技
就在前不久，法國電影制片人伊扎貝爾·齊斯基（Yzabel Dzisky）向BBC講述了自己所遭遇的“殺豬盤”騙局。
46歲的伊扎貝爾通過約會APP認識了一位土耳其的著名外科醫生“穆拉特”，此后便墜入愛河，兩人頻繁網聊，偶爾視頻通話。之后，她也在谷歌上搜到了大量關于“穆拉特”本人的信息以及照片。熱聊一段時間后，伊扎貝爾得到了“穆拉特”不久就會來看她的承諾，但他必須要先到上海出差。
伊扎貝爾說，“穆拉特”在上海時給她打電話稱自己要買醫療設備，但信用卡在上海沒法用，讓她給他寄3000歐元過去，然后他就可以飛到巴黎與伊扎貝爾見面了。盡管對“外科醫生還需借錢”感到懷疑，但伊扎貝爾還是決定通過國際匯款給他匯去200歐元。
3天后，伊扎貝爾在機場等了再等，然而，“穆拉特”卻根本沒有出現。于是，“交友詐騙”這樣的詞匯開始伊扎貝爾腦海中浮現，但她又覺得不可能，畢竟自己在視頻中見過他。
幾天后，“穆拉特”主動聯系了伊扎貝爾。但這次，伊扎貝爾想在大屏幕上看到他，于是通過電腦連了線。但此次發現視頻效果非常差，有明顯地視覺滯后現象，在穆拉特講話時還有“咔咔的點擊聲”。伊扎貝爾想聽聽專家的看法，一位視頻編輯告訴她到YouTube上看一下深度偽造（“Deepfake”）視頻就明白了。
法國電影制片人伊扎貝爾·齊斯基（Yzabel Dzisky）
她終于接受自己被騙的事實，并設法說服“穆拉特”再跟她視頻時質問對方：“我知道你不是穆拉特，你到底是誰？”對方告訴她，自己叫大衛，其實是一名20歲的尼日利亞黑客，他們有一個龐大的詐騙網絡，已騙取了很多錢，通過這些假帳戶他已經致富了。
如果說，此前的“假靳東”視頻騙局，是利用了中老年婦女的信息鴻溝。那么，像伊扎貝爾這樣的高知女性所經歷的深度偽造技術加持騙局，如果真的遭遇，你究竟能有幾成把握幸免？不可否認，這一老騙術，因AI技術的加持，迸發了新生機。
曾經圍獵愛情，如今收割友情、親情
有人會說，自己從不在網絡上尋找愛情，因此“殺豬匠”們就沒有可乘之機。然而，這些“屠夫”早就不滿足于圍獵愛情了，友情、親情也無法逃脫。
2月15日，浙江溫州的陳先生收到了身在國外的好友“阿誠”發來的私信，要求加他的新微信號，因為昔日的友情，陳先生果斷添加了對方微信。在簡單寒暄過后，“阿誠”稱自己購買回國機票的過程中遇到了難題，希望陳先生幫忙聯系經理進行付余款。然后他將錢轉給陳先生。
因為涉及錢，陳先生對于此人的身份還有所懷疑，對方見陳先生遲遲沒有回消息，“阿誠”隨后打來視頻電話。此時，陳先生漸漸打消了心中的顧慮。隨后，“阿誠”發來轉賬截圖，稱已將錢轉進陳先生的銀行卡，24小時內就能到賬。深信不疑的陳先生在“阿誠”一步步“指導”下，添加了“航空公司經理”的微信，替“阿誠”支付了49200元。
結果當天晚上，陳先生刷到“阿誠”的“舊”微信，與其聊起了白天轉賬的事情，這才知道自己被騙了。隨后，陳先生便到浙江省溫州市公安局甌海分局仙巖派出所報案。經過警方核實，這也是一起利用“AI換臉”技術進行詐騙的案件。
在近期的熱播劇《獵罪圖鑒》中，嫌疑人則利用“AI換臉”技術搖身一變成為空巢老人的子女，以“愛”之名實施詐騙。“兒子”聲稱缺錢問老人頻頻要錢，老人多次匯款以后發現不對勁才知道上當了，而這時已經把全部積蓄都給了騙子。
識破AI騙局，要靠“魔法打敗魔法”
今年2月發布的《深度合成十大趨勢報告（2022）》指出，隨著深度合成技術的開放開源、深度合成產品和服務的增多，深度合成內容制作的技術門檻越來越低。報告發布方瑞萊智慧RealAI副總裁唐家渝介紹，由于很多代表性的生成方法已經被開源，技術走向公開和輕量化，甚至已有黑產分子售賣深度偽造軟件及教程，讓普通人從零開始幾分鐘就能生成一段用于App身份核驗的深度偽造視頻。
技術的“平民化”，使得利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、勒索、誣陷、誹謗等違法行為和事例屢見不鮮。更為嚴峻的是，隨著AI技術的快速發展，深偽視頻的動作逼真度、自然度，以及視頻整體的清晰度、流暢度都得到大幅提升，肉眼已很難識別真假。
怎么辦？只有魔法才能打敗魔法。
“學術界和產業界目前均已對深度偽造鑒別檢測技術研發進行了大量投入，Meta、谷歌、微軟等均推出相應方法或產品。在國內，清華大學、中科大等高校同樣取得顯著成果。”唐家渝介紹，RealAI此前也面向公眾發布了針對性的檢測產品——深度偽造內容檢測平臺DeepReal，支持對多種深度偽造方法進行檢測。該平臺現已擁有工業級的檢測性能和應對實網環境對抗變化的檢測能力，檢測準確率也達到了業內頂尖。
深度偽造內容檢測平臺DeepReal
防范深度偽造音視頻詐騙，不僅要在技術層面研究和創新，公眾防范意識也要進一步提升，形成社會合力。唐家渝提醒，深偽視頻制作的原材料是個人圖片、視頻，這些數據越多訓練出的視頻也就越逼真、越難以鑒別，因此大家要注意保護好個人圖像，盡量避免在公開平臺大量曬自己的照片和視頻。
同時，由于“AI換臉技術”肉眼無法分辨，涉及到此類錢款時，堅持“不輕信、不轉賬”的原則，還可追問幾個只有你與借款者之間才知道的私密信息核實對方身份。此外，轉賬盡量使用銀行賬戶匯款，并將轉賬時間設置成“24小時到賬”，以便在發現被騙后，有足夠的處理時間。
