近日，央視報道的一則“女子被刷臉背上萬余元貸款”的新聞登上微博熱門話題。人臉識別技術的話題再次引發(fā)大家的熱議。人臉識別技術雖然應用越來越廣泛，但其存在的風險也不斷被暴露出來。
圖片來源于微博
由全國信息安全標準化技術委員會等機構(gòu)成立的App專項治理工作組，發(fā)布了一份《人臉識別應用公眾調(diào)研報告（2020）》。報告顯示，有九成以上的受訪者都使用過人臉識別，具體用途當中“刷臉支付”最為普及。有六成受訪者認為人臉識別技術有濫用趨勢，三成受訪者表示，已經(jīng)因為人臉信息泄露、濫用而遭受到隱私或財產(chǎn)損失。
“臉”作為AI時代最重要的身份識別特征，一旦“丟臉”，被不法分子盜用臉部信息，就會面臨著巨大的風險：
1.詐騙：竊取用戶臉部信息偽造他人的動態(tài)視頻破解人臉識別系統(tǒng)騙取賬戶和財產(chǎn)。
我們?nèi)粘Ｉ钪校謾C解鎖、考勤打卡、交通出行、線上業(yè)務辦理等場景都用臉來作為“密碼”，尤其銀行等金融機構(gòu)開設了人臉識別注冊登錄、“刷臉”交易、貸款等服務。“刷臉”的場景越來越多，由“臉”帶來的風險也隨之增長。以假扮公眾人物的演講為例，偽造訴訟證據(jù)，偽造身份進行網(wǎng)絡詐騙。此前有報道顯示，一些電商平臺以低價出售匹配了身份信息的人臉數(shù)據(jù)。不法分子再利用AI變臉技術，將人臉置換到點頭、搖頭、眨眼、說話等行為的動態(tài)驗證視頻中，以此辦理網(wǎng)貸或?qū)嵤┢渌珳试p騙行為。
2.色情：利用竊取的臉部信息替換色情視頻中的人像傳播色情或?qū)嵤┣迷p
阿姆斯特丹的一家致力于研究Deepfake的組織Deeptrace曾發(fā)布一項對近15000個換臉視頻的研究。研究發(fā)現(xiàn)，在發(fā)布的換臉視頻中，有96%是色情內(nèi)容，其中99%的內(nèi)容是女性名人的面孔。艾瑪·沃特森、斯嘉麗·約翰遜等多位好萊塢女星也曾躺槍，被換臉成色情電影女主角，無故陷入“艷照門”事件。近期，各地網(wǎng)警頻頻破獲的“裸聊騙局”，也源于AI換臉技術的“加持”，江蘇網(wǎng)警破獲的一起案例中，一名受害者明知是場騙局，卻因好奇心使然，進入不法分子的圈套，臉部信息被移花接木，P到不雅視頻中。在對方的脅迫下，持續(xù)轉(zhuǎn)賬試圖買斷不雅視頻。
3.侵權(quán)及內(nèi)容違規(guī)風險：利用名人臉部信息換臉存在侵權(quán)風險，利用涉政人物面部信息，給平臺增加敏感信息的風險
《中華人民共和國民法典》明確提出，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權(quán)。在監(jiān)管層面，利用領導人的面部信息來偽造人臉，存在內(nèi)容違規(guī)的風險，給平臺帶來內(nèi)容風控壓力，增加平臺違規(guī)風險。
以技術防御技術風險
目前，出現(xiàn)莫名“被刷臉”可能是由以下兩種情況導致：
一 識別不精準（即人臉識別圖像信息與注冊人信息不符）。針對識別不精準的問題，通常我們可采用多樣本匹配、多維度驗證即可解決；二、使用AI技術換臉（即AI換臉技術被不法分子惡意利用）AI 換臉技術是當下亟待解決的難點。AI換臉黑產(chǎn)已經(jīng)在國內(nèi)形成了完整的產(chǎn)業(yè)鏈，從下游成品視頻、中游定制視頻到上游軟件及教程都有提供，有的賣家甚至提供全產(chǎn)業(yè)鏈產(chǎn)品和售后服務。
早在2019年，ZAO大火之時，數(shù)美科技的CTO梁堃憑借多年在智能風控領域的敏銳度，就意識到AI變臉背后的風險：“我的第一直覺，AI換臉技術被不法分子惡意利用，后果是無法想象的，數(shù)美科技作為一家智能風控公司，業(yè)務風控是我們的專業(yè)領域，盡快研發(fā)出針對風險行為的識別產(chǎn)品是我們的使命。”帶著這樣的使命，數(shù)美科技迅速研發(fā)出AI換臉識別產(chǎn)品。
該產(chǎn)品基于人臉檢測技術、人臉特征提取技術以及針對人臉識別場景優(yōu)化后的XceptionNet網(wǎng)絡，通過視頻多幀綜合識別，只需要10秒包含目標人物的視頻，就可快速精準識別視頻內(nèi)容是否通過AI換臉技術偽造而成。同時，數(shù)美科技的AI換臉識別模型能夠自動提取人臉關鍵點、臉部邊緣、人臉朝向等重要特征，這些特征幫助模型在視頻識別上的準確率達到90%以上，能夠有效防范各種利用AI換臉視頻實施詐騙的行為。
隨著人臉融合技術的發(fā)展，因與真實人臉的融合更加自然和諧，對偽造人臉識別技術提出了更高的要求。數(shù)美科技從中發(fā)現(xiàn)規(guī)律特征，對技術進行了針對性的升級。相比于現(xiàn)有基于大量數(shù)據(jù)訓練出的純分類模型
，數(shù)美科技結(jié)合語義分割技術和分類技術，利用HRNet對偽造痕跡進行定位，同時利用偽跡信息輔助后續(xù)偽造人臉的判斷，在取得高召回的同時也保證了高準確。在網(wǎng)絡設計中，遵循輕量高效的原則，采用分組卷積、深度可分離卷積等前沿技術，可同時對身份更換及人臉表情變換進行快速精準識別，在防范欺詐行為的同時，幫助平臺防御視覺業(yè)務層面侵權(quán)、涉政等風險。
識別是抵御風險的第一步，數(shù)美科技利用已經(jīng)建立起的龐大用戶畫像系統(tǒng)，在行為層面從設備層、賬號層、行為層形成清晰的用戶畫像，以畫像輔助判定偽造人臉的行為風險。憑借多年來對抗黑產(chǎn)的經(jīng)驗，對各個隱藏的黑產(chǎn)群體形成針對性關注，能夠有效避免AI變臉技術被不法分子用于欺詐。
在內(nèi)容識別層面，數(shù)美科技通過對海量數(shù)據(jù)的深度學習，提供圖像視覺內(nèi)容的在線精準識別和實時標簽返回服務。與此同時，數(shù)美科技擁有海量樣本庫，模型快速迭代驅(qū)動視覺識別引擎時刻升級，保證綜合識別能力的持續(xù)提升。更有10萬+明星樣本庫等特別樣本庫，能夠提供更加高效精準的偽造人臉識別能力，幫助平臺規(guī)避侵權(quán)和內(nèi)容違規(guī)風險。
以技術防御技術風險，數(shù)美科技將繼續(xù)深耕智能風控領域，幫助平臺及用戶防御風險，助力構(gòu)建健康向善的網(wǎng)絡生態(tài)。
