來(lái)源：雷鋒網(wǎng)
Ins、抖音上的網(wǎng)紅一定都是真人嗎？
答案還真不一定。
最近國(guó)外出現(xiàn)了一批售賣(mài) " 假人 " 的網(wǎng)站，面向所有人開(kāi)放，只要付費(fèi)就能通過(guò) API 快速獲取一個(gè)假人 IP，而且也不貴，2.99 美元（不到 20 元）一個(gè)。
先來(lái)看下它們的成品。
這些擁有光滑皮膚的人臉照是不是像極了社交平臺(tái)的網(wǎng)紅照？
可能你會(huì)懷疑他用了美顏相機(jī)一鍵磨皮瘦臉了，但肯定想不到他們都是不存在的 " 假人 "
不止如此，這個(gè)名為 Generated.Photos 的網(wǎng)站還為購(gòu)買(mǎi)者提供了極大的發(fā)揮空間，如果對(duì)年齡、容貌、膚色、種族、性別，甚至情緒不滿意，統(tǒng)統(tǒng)都可以根據(jù)需求自己調(diào)整，而調(diào)整方法就像使用美顏 APP 一樣簡(jiǎn)單。
比如想要變大雙眼，直接滑動(dòng)下面的滾動(dòng)按鈕即可。
從青年直接跨到老年，頭發(fā)、神情、皺紋，過(guò)渡的相當(dāng)自然，還應(yīng)景地配了副眼鏡。
情緒變化也毫無(wú)違和感，正經(jīng)臉一秒變職業(yè)假笑。
如果一張假人照不足為奇，那么一個(gè)名為 Rosebud.ai 的網(wǎng)站還能讓他們 " 動(dòng) " 起來(lái)。
從說(shuō)話的口型，五官的輕微移動(dòng)，確實(shí)很難辨真假。
從網(wǎng)站介紹來(lái)看，任何帶有面孔的照片都可以變成視頻效果，其中說(shuō)話的文本，可自定義，也可由系統(tǒng)自動(dòng)提供，同時(shí)，說(shuō)話者的聲音有多種選擇模式。
那么，如此逼真的深度造假網(wǎng)站，是不是已經(jīng)被封殺？
然而并沒(méi)有，這是一家正經(jīng)公司的正經(jīng)網(wǎng)站，網(wǎng)站上還掛出了他們的客戶(hù)—歐萊雅（L ‘ OREAL），電商平臺(tái)（shopify）、YC 中國(guó)（Y-Combinator）等大牌企業(yè) Logo。
Rosebud.ai：為藝術(shù)創(chuàng)作而生
想必很多 AI 開(kāi)發(fā)者或愛(ài)好者，對(duì)上述 " 假人 " 的生成效果并不感到意外。
自從 2014 年 GAN（生成式對(duì)抗網(wǎng)絡(luò)）首次被提出以來(lái)，基于人臉的圖像合成效果便得到了驚人的發(fā)展，尤其是其升級(jí)版 StylGAN2 推出后，在人臉處理方面，已經(jīng)能夠支持換臉、換頭、修改五官，甚至生成不存在的新人臉。
而且這項(xiàng)技術(shù)已經(jīng)支持圖像、視頻、語(yǔ)音多種形式。據(jù) Rosebud.ai 官網(wǎng)介紹，其 " 假人 " 制造正是基于 GAN 技術(shù)，而其視音頻的處理上利用的是自然語(yǔ)言模型 GPT-3.
GPT-3 具有超強(qiáng)的文本生成能力，內(nèi)含 1750 億參數(shù)量，是有史以來(lái)最大的 NLP 模型，也是 OpenAI 耗資四百多萬(wàn)美元打造的模型。從 6 月份開(kāi)通 API 服務(wù)后，被網(wǎng)友們挖掘出了 50 多種新玩法，如寫(xiě)詩(shī)作詞、畫(huà)圖做 PPT，生成代碼等等，效果也十分驚人。
基于這兩項(xiàng)超強(qiáng) AI 技術(shù)，Rosebud.ai 可以達(dá)到的效果不難想象。而為何提供這樣一種 " 假人 " 服務(wù)，該網(wǎng)站也給出了明確說(shuō)明：
Rosebud ai 是一款生成文本、圖像、視頻和語(yǔ)音的工具，它對(duì)于生成性媒體完成故事創(chuàng)作非常重要。比如，小說(shuō)故事中的人物形象總是很豐富多彩，我們可以通過(guò) AI 技術(shù)呈現(xiàn)與之最相符合人物容貌。同時(shí)，GPT3 能夠進(jìn)一步通過(guò)人物特點(diǎn)合成了具有親和力和情感豐富的獨(dú)白，這些獨(dú)白在刻畫(huà)人物形象，豐富故事內(nèi)容方式也發(fā)揮了非常重要的作用。
也就是說(shuō)，這項(xiàng)技術(shù)原意是被用來(lái)輔助藝術(shù)創(chuàng)作。事實(shí)上，無(wú)論是 GPT-3，還是 GAN 技術(shù)都是以科技向善為初衷研發(fā)的，比如 GAN 在人臉融合方面的驚人效果，可以被廣泛應(yīng)用于娛樂(lè)、電影制作等行業(yè)。
但有人曾說(shuō)過(guò)，" 技術(shù)本沒(méi)有錯(cuò)，錯(cuò)的是利用技術(shù)的人。"GAN 技術(shù)被不少不良分子用來(lái)創(chuàng)造了大量 Deepfake 視頻，或是色情內(nèi)容或是偽造政客言論，此前雷鋒網(wǎng)也有多次報(bào)道。
Rosebud ai 等工具也一樣。
被間諜利用，用于身份造假
Rosebud ai 主要被人用來(lái)身份造假。相關(guān)案例也不再少數(shù)，其中最大的一起案例要屬 2019 年某間諜利用假面孔混入華盛頓政治領(lǐng)域事件。
當(dāng)時(shí)一名凱蒂 · 瓊斯（Katie Jones）的紅發(fā)女郎以網(wǎng)絡(luò)專(zhuān)家的身份，與美國(guó)副國(guó)務(wù)卿助理，高級(jí)參議員助手以及經(jīng)濟(jì)學(xué)家保羅 · 溫弗里（Paul Winfree）都建立了密切聯(lián)系，Winfree 當(dāng)時(shí)正在競(jìng)選美聯(lián)儲(chǔ)的職位。
后來(lái)經(jīng)調(diào)查發(fā)現(xiàn)，這位 30 歲的女性是由 AI 創(chuàng)建的 " 假人 "，她在職業(yè)社交平臺(tái) Linkedin 上的個(gè)人資料和照片全部虛構(gòu)。
美國(guó)國(guó)家反情報(bào)與安全中心主任威廉 · 埃文納（William Evanina）曾表示，
" 這是在專(zhuān)業(yè)社交網(wǎng)站上進(jìn)行間諜活動(dòng)的典型案例，很多外國(guó)間諜通常會(huì)使用虛假的社交媒體資料把自己包裝成美國(guó)知名專(zhuān)家，并進(jìn)行大規(guī)模間諜活動(dòng)，對(duì)他們而言，相比于派間諜到某一個(gè)國(guó)家，不如坐在家里的計(jì)算機(jī)后面，向 30000 個(gè)目標(biāo)好友發(fā)送請(qǐng)求效果更高。"
不過(guò)，因及時(shí)發(fā)現(xiàn)該事件并沒(méi)有產(chǎn)生更惡劣的影響。同樣是在 LinkedIn 平臺(tái)，今年 7 月份也發(fā)生了一起重大身份造假事件。
這位 " 假人 " 名為拉斐爾 · 巴達(dá)尼（Raphael Badani），他將自己包裝成美國(guó)知名新聞平臺(tái) Newsmax 的內(nèi)部人員，從事 " 政治風(fēng)險(xiǎn)顧問(wèn)、國(guó)際關(guān)系高級(jí)分析師 " 相關(guān)工作。
利用這一身份他發(fā)表過(guò)有關(guān) " 伊拉克如何伊朗的控制 "，" 迪拜為何如此動(dòng)蕩 " 等多篇文章。這些文章還被美國(guó) Washington Examiner、RealClear Markets,、American Thinker 以及 The National Interest 等多家媒體轉(zhuǎn)載。
但后來(lái)發(fā)現(xiàn)此人并不存在，其個(gè)人資料全部為偽造，文章也竊取自圣地亞哥創(chuàng)業(yè)公司創(chuàng)始人的博客。
此外，與以上有政治意圖的造假案例相比，該技術(shù)可能被廣泛的應(yīng)用于日常社交，雖然不會(huì)涉及違法犯罪，但它確實(shí)在構(gòu)建一個(gè)虛假的世界。例如有網(wǎng)友稱(chēng)，
不難想象，未來(lái)我們會(huì)經(jīng)常看到此類(lèi)分享照——與 " 假朋友 " 聚會(huì)，與 " 假狗 " 閑逛，抱著他們的 " 假嬰兒 "。
仔細(xì)看，肉眼看也能識(shí)別
當(dāng)然，隨著造假信息的泛濫，相關(guān)反識(shí)別技術(shù)也在陸續(xù)推出。
目前的主流技術(shù)包括人臉 X 射線（ Face X-ray）檢測(cè)、背景差異檢測(cè)（Background Difference）、情緒識(shí)別網(wǎng)絡(luò)（Emotion Recognition Network）檢測(cè)，以及生物學(xué)信號(hào)（Biological Signals）檢測(cè)，最高識(shí)別率可達(dá)到 99% 以上。
此外目前的人臉造假，無(wú)論是視頻還是圖像方面，還遠(yuǎn)未達(dá)到毫無(wú)差錯(cuò)的地步。
如果用肉眼觀察，也能夠發(fā)現(xiàn)一些痕跡。比如通過(guò)一些配飾，
圖中的耳環(huán)看起來(lái)很相似，但細(xì)心一點(diǎn)可以發(fā)現(xiàn)有明顯區(qū)別。另外眼鏡也是一個(gè)常用的衡量配飾，GAN 創(chuàng)建的眼睛，框架兩端經(jīng)常會(huì)不對(duì)稱(chēng)，或有輕微變形。
在對(duì)稱(chēng)方面，GAN 在耳朵、眼睛的生成上也會(huì)有不一致出現(xiàn)。
最后，最明顯的痕跡就是偽影和背景。
偽影就是在原圖像上出現(xiàn)了并不存在的各種形態(tài)的混色影像，這一點(diǎn)最容易識(shí)別。偽影也是衡量合成圖像質(zhì)量的關(guān)鍵指標(biāo)。此外，目標(biāo)人臉之外的背景也是重點(diǎn)，如變形的樹(shù)木、錯(cuò)位的草坪等。
引用鏈接：
https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html?action=click&module=RelatedLinks&pgtype=Article
https://apnews.com/article/bc2f19097a4c4fffaa00de6770b8a60d
https://www.thedailybeast.com/right-wing-media-outlets-duped-by-a-middle-east-propaganda-campaign
