近日，AI“換臉”詐騙案件在福州、安慶等多地發(fā)生，引發(fā)公眾的關(guān)注和熱議，“AI詐騙正在全國爆發(fā)”話題熱度居高不下。據(jù)公安部數(shù)據(jù)統(tǒng)計，我國犯罪結(jié)構(gòu)已發(fā)生了重大變化，傳統(tǒng)犯罪持續(xù)下降，以電信網(wǎng)絡(luò)詐騙為代表的新型網(wǎng)絡(luò)犯罪已成為當(dāng)前的主流犯罪形式。可怕的是，有AI加持的“高端騙局”，已經(jīng)顛覆了“眼見為實(shí)”的認(rèn)識論權(quán)威，人們的肉眼已無法分辨真?zhèn)危烤乖撊绾纹平猓?/p>
以“AI換臉”、“AI換聲”為代表的深度偽造內(nèi)容，其自動化鑒別已是剛需。據(jù)悉，為了促進(jìn)深度偽造檢測相關(guān)技術(shù)的發(fā)展，國內(nèi)外已發(fā)布專項(xiàng)研究計劃以及開展相關(guān)的學(xué)術(shù)競賽。學(xué)術(shù)界和產(chǎn)業(yè)界均已對深度合成鑒別檢測技術(shù)的研發(fā)進(jìn)行了大量投入，包括Meta（原Facebook）、谷歌、微軟、馬普所等機(jī)構(gòu)均推出視頻認(rèn)證的方法或產(chǎn)品。在國內(nèi)，清華大學(xué)、中科大等高校均在深偽檢測方面取得顯著成果。
由清華大學(xué)人工智能研究院孵化的北京瑞萊智慧科技有限公司，已構(gòu)建人臉合成檢測平臺并發(fā)布針對性的檢測產(chǎn)品，支持對多種換臉方法進(jìn)行檢測，例如AI 安全防火墻一體機(jī)。它是業(yè)內(nèi)首個全面加固任意人臉識別系統(tǒng)的一體化設(shè)備。通過集成 RealAI 世界領(lǐng)先的對抗檢測算法以及深度合成檢測算法，能夠有效抵御深度偽造攻擊、對抗樣本攻擊等新型AI安全風(fēng)險，大幅提升人臉識別系統(tǒng)的安全性。
瑞萊智慧AI安全防火墻一體機(jī)
瑞萊智慧技術(shù)專家透露，利用人工智能技術(shù)進(jìn)行“面部篡改”目前主要分為兩大類：一類是面部替換技術(shù)，將一人的面部直接替換到另一人的面部上；另一類是表情操縱技術(shù)，將一個人的面部表情移植到另一個人照片的面部，從而讓被移植人照片活化起來。
深度偽造生成的內(nèi)容偽裝性強(qiáng)、欺騙性高。當(dāng)前深度合成的方法多樣，且發(fā)展更新的速度較快。隨著深度偽造內(nèi)容的逼真度越來越高，對深度偽造檢測技術(shù)也提出了更高的要求。
瑞萊智慧AI 安全防火墻一體機(jī)基于多年技術(shù)積累研發(fā)，可被應(yīng)用于實(shí)名認(rèn)證、刷臉通行、人臉解鎖等多種場景。產(chǎn)品包含了業(yè)內(nèi)最全的攻擊樣本數(shù)據(jù)集，全面覆蓋新型AI安全風(fēng)險。在檢測效率上，整機(jī)安全檢測性能不低于200QPS的圖片類樣本處理能力，并支持通過設(shè)備橫向擴(kuò)展與集群部署提升整體檢測性能。同時該產(chǎn)品做為AI應(yīng)用領(lǐng)域的專用安全一體化設(shè)備，具有部署快捷，開箱即用的特點(diǎn)。
入選中關(guān)村論壇《2023十大最具影響力新技術(shù)新產(chǎn)品榜單》
5月27日，2023年中關(guān)村論壇的中關(guān)村國際技術(shù)交易大會開幕式暨全球技術(shù)交易生態(tài)伙伴大會上，發(fā)布了《百項(xiàng)新技術(shù)新產(chǎn)品榜單》及“十大最具影響力新技術(shù)新產(chǎn)品”，對全球科技創(chuàng)新前沿成果進(jìn)行集中展示。其中，瑞萊智慧研發(fā)的人臉AI安全防火墻入選《百項(xiàng)新技術(shù)新產(chǎn)品榜單》，并獲評“十大最具影響力新技術(shù)新產(chǎn)品”。
