本文來(lái)源于微信公眾號(hào)愛(ài)范兒（ID：ifanr），作者 | 張成晨，鈦媒體經(jīng)授權(quán)發(fā)布。
上世紀(jì)末的作品《攻殼機(jī)動(dòng)隊(duì)》中，全身義體化的素子，懷疑自己是否仍然存在。身體、記憶和其他人的關(guān)系，當(dāng)這些事物都能夠被復(fù)制，也就無(wú)法成為肉身生命的論據(jù)。
AI 歌手爆火之時(shí)，孫燕姿也在回應(yīng)里提出類似的觀點(diǎn)，你并不特別，你已經(jīng)是可預(yù)測(cè)的，而且不幸你也是可定制的。
我們可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你從未做過(guò)某些事情。
魯迅真的說(shuō)過(guò)，一見(jiàn)短袖子，立刻想到白臂膊。人類的想象力是共通的，毫不意外，每當(dāng)技術(shù)有新進(jìn)展，某個(gè)垂直賽道會(huì)被開(kāi)發(fā)得越發(fā)成熟：搞黃色。
從明星網(wǎng)紅，到每個(gè)普通人
2017 年興起的色情 Deepfake 有續(xù)集了。
之前是換臉的「移花接木」，眼下是數(shù)行文字的「無(wú)中生有」。
AI 作圖發(fā)展到如今，已經(jīng)有了很多分享 AI 模型的網(wǎng)站，你可以用來(lái)生成各種風(fēng)格的圖片，莫奈筆調(diào)風(fēng)景畫(huà)、韋斯·安德森配色產(chǎn)品圖，當(dāng)然也包括仿佛真人出鏡的色情場(chǎng)景。
「Create Anything（創(chuàng)造任何東西）」，這是其中一個(gè)網(wǎng)站（避免有宣傳之嫌，名字就不透露了）打出的旗號(hào)。雖然啥都能干，不少用戶更愿意在「十八禁」大展拳腳。
在文本框輸入名人名字，加上「裸體」等提示詞，就會(huì)得到一個(gè)模糊的圖像。接下來(lái)是另外的價(jià)錢(qián)，每月 4 美元試水基礎(chǔ)版，或者每月 15 美元尊享專業(yè)版。
付費(fèi)解鎖界面，NSFW 意為「工作場(chǎng)所不宜」，一般指色情、暴力等內(nèi)容.
不僅如此，生成圖片之后，提示詞公開(kāi)可見(jiàn)，讓類似喜好的其他用戶沿用或者迭代都很方便。
另外，這個(gè)網(wǎng)站在聊天軟件 Discord 有 3000 多名成員和數(shù)十個(gè)聊天室，他們討論的都是怎么精進(jìn)提示詞技巧，從而更符合自己對(duì)某個(gè)部位和姿勢(shì)的想象。
好萊塢女星的 AI 模型，已經(jīng)下載 1300 次.
網(wǎng)站的創(chuàng)始人在接受采訪時(shí)說(shuō)，NSFW 只占平臺(tái)內(nèi)容的一小部分，每月有 100 萬(wàn)個(gè)活躍的創(chuàng)作者產(chǎn)出獨(dú)特的作品。
在另一個(gè)類似的網(wǎng)站，用戶可以上傳、共享和發(fā)現(xiàn)自定義模型，同樣是什么風(fēng)格都有，動(dòng)漫風(fēng)、游戲風(fēng)、膠片復(fù)古風(fēng)......但人性所致，帶顏色的模型人氣居高不下，最熱門(mén)的幾個(gè)已經(jīng)被下載六七萬(wàn)次。
一個(gè)「擦邊球」模型.
色情固然是互聯(lián)網(wǎng)的一部分，然而問(wèn)題在于，訓(xùn)練這些模型的真實(shí)人物圖片，是在互聯(lián)網(wǎng)擅自抓取的，并沒(méi)有經(jīng)過(guò)本人的同意。
有些圖片也不是完全露骨，而是讓名人穿著內(nèi)衣，或者某個(gè)部位看起來(lái)更大，但五十步笑百步的做法，仍然是不道德的。
這時(shí)候就需要稍微解釋下原理。很多個(gè)性化的 AI 模型，都是基于開(kāi)源的 Stable Diffusion 微調(diào)，而 LoRA 又是一種主流的模型微調(diào)訓(xùn)練方法，因?yàn)樗鄬?duì)輕量化，用少量圖片訓(xùn)練，便能生成特定的人物、物體或畫(huà)風(fēng)。
之前很火的賽博 COSER 用的也是 LoRA. 圖片來(lái)自：@勘云工造
那么對(duì)于色圖，誰(shuí)成為了微調(diào)數(shù)據(jù)集呢？
獨(dú)立媒體公司 404 Media 調(diào)查發(fā)現(xiàn)，其中一個(gè)模型的訓(xùn)練數(shù)據(jù)，來(lái)自「美版貼吧」Reddit 的幾個(gè)成人主題社區(qū)。
愿意上傳圖片，不代表愿意充當(dāng) AI 的口糧。一位負(fù)責(zé)管理社區(qū)的 Reddit 用戶懷疑，大多數(shù)在 Reddit 發(fā)布裸照的人，可能并不知道照片正在被用來(lái)喂養(yǎng) AI 模型。
倒也不是發(fā)出裸照才有威脅。7 月初，德國(guó)電信發(fā)了一條關(guān)于兒童數(shù)據(jù)安全的廣告，展現(xiàn)個(gè)人數(shù)據(jù)被拿去使用是多么容易，后果又是多么嚴(yán)重，呼吁家長(zhǎng)盡量少在互聯(lián)網(wǎng)分享兒童隱私。
德國(guó)電信廣告部分截圖，兒童照片可能會(huì)被用于制造成人內(nèi)容.
這也意味著，威脅不僅在明星和網(wǎng)紅頭上盤(pán)旋，也可能擊中在互聯(lián)網(wǎng)路過(guò)的普通人，恐怕離人人都有一個(gè) AI 模型的未來(lái)也不遠(yuǎn)了，只要你我在互聯(lián)網(wǎng)上有過(guò)數(shù)字痕跡。
根據(jù)今年 7 月的互聯(lián)網(wǎng)狀況統(tǒng)計(jì)報(bào)告，近 50 億人（48.8 億）活躍在社交媒體上，占世界總?cè)丝诘?60.6%。
或許有人會(huì)問(wèn)，這不是 Deepfake 換臉時(shí)就有的毛病嗎？是的，但偽造圖片的腳步不會(huì)停下，已經(jīng)存在的問(wèn)題變本加厲。
從基于生成式對(duì)抗網(wǎng)絡(luò)的 Deepfake，到模擬粒子熱運(yùn)動(dòng)過(guò)程的擴(kuò)散模型，訓(xùn)練數(shù)據(jù)集擴(kuò)大了、算法框架迭代了、算力水平也提升了。更直觀的是，普通人在 AI 上也有參與感了。
從前我們更偏向 AI 消費(fèi)者，或是刷到真假難辨的湯姆·克魯斯微微一哂，保持看熱鬧的旁觀心態(tài)，或是換上好玩的濾鏡跟進(jìn)社交媒體潮流，交出去的基本是自己的個(gè)人信息。
TikTok 的「湯姆·克魯斯」，本人看了也得犯迷糊.
現(xiàn)在我們都可以是 AI 生產(chǎn)者，登錄 AI 模型網(wǎng)站，在文本框輸入提示詞，由云計(jì)算處理需求，幾分鐘就可以生成某位名人的定制 AI 作品，哪怕質(zhì)量不好，用戶規(guī)模和圖片數(shù)量是空前的，每個(gè)月產(chǎn)出上百萬(wàn)張圖片不在話下。
某 AI 模型網(wǎng)站的生成速度，最多需要 1 分鐘.
AI 成人內(nèi)容的可怕之處還在于，既要從真人取材，也要回歸「真實(shí)」。
各網(wǎng)站最受歡迎的模型之一非常強(qiáng)調(diào)現(xiàn)實(shí)感，用戶們還在 Reddit 討論怎么給某個(gè)器官特寫(xiě)。行業(yè)里最優(yōu)秀的創(chuàng)作者，甚至稱自己的作品就像「1080P+ 視頻的定格幀」。
可想而知，騷擾和勒索也可能會(huì)增加，技術(shù)的惡面往往最先向無(wú)法自保的人刀劍相向。
是興趣，更是交易
和性搭上了邊，那就不缺交易。買(mǎi)家是出于個(gè)人興趣，賣家則是因?yàn)檎娼鸢足y。除了上文提到的訂閱模式，用 AI 色圖賺錢(qián)的方式還有很多，雖然基本都是「打零工」。
在 Patreon、Ko-fi 等具有打賞、贊助功能的平臺(tái)，可以找到創(chuàng)作者的蹤影。一位創(chuàng)作者在 Patreon 有 100 多名付費(fèi)會(huì)員，巔峰時(shí)期每個(gè)月能賺到 1500 美元。
他還順便加入了另外一個(gè)平臺(tái)的「創(chuàng)作者計(jì)劃」，每張圖片入賬 0.001 美元，雖然單價(jià)低，但好在他使喚 AI 的速度夠快。
Patreon 的訂閱界面.
任務(wù)眾包平臺(tái) Fiverr 也值得一提，它是一個(gè)連接甲方乙方的中介，幾乎可以購(gòu)買(mǎi)和出售任何數(shù)字化「零活」，比如寫(xiě)作、翻譯、設(shè)計(jì)，不少 AI 創(chuàng)作者明碼標(biāo)價(jià)，按照模型和圖片數(shù)量階梯收費(fèi)。
一位 Fiverr 創(chuàng)作者的接活界面.
還有作風(fēng)更加極客的創(chuàng)作者，直接在 AI 模型網(wǎng)站貼出比特幣錢(qián)包地址。
別說(shuō)個(gè)體創(chuàng)作者了，平臺(tái)同樣賺得盆滿缽滿。
有的 AI 模型網(wǎng)站自己也有打賞功能，同時(shí)提供每月 5 美元的會(huì)員福利，讓用戶可以搶先體驗(yàn)新功能，并在官網(wǎng)和 Discord 上的用戶名后面戴上獨(dú)特的徽章。
AI 模型網(wǎng)站的打賞功能.
號(hào)稱全世界第二大成人網(wǎng)站的 OnlyFans，不像 P 站收入主要來(lái)自廣告并按視頻點(diǎn)擊量和創(chuàng)作者分成，創(chuàng)作者可以通過(guò)用戶訂閱和按次付費(fèi)賺錢(qián)。
有觀點(diǎn)認(rèn)為，OnlyFans 改變了成人產(chǎn)業(yè)，因?yàn)閯?chuàng)作者拿回了主導(dǎo)權(quán)，通過(guò)自己的作品直接獲得收入。
然而現(xiàn)在，出圖更快的「AI 師傅」也在復(fù)刻這套商業(yè)模式，「?jìng)鹘y(tǒng)手藝人」的生財(cái)之路可能再次被打斷。
這一集我們?cè)?Deepfake 視頻大行其道的時(shí)候就看過(guò)。彭博社采訪的一位 29 歲網(wǎng)紅，是其中一位惴惴不安的受害者。
放在以前，如果想看她玩電子游戲，可以每月花 5 美元訂閱 Twitch，如果想看她尺度更大的內(nèi)容，可以每月花 15 美元訂閱 OnlyFans。
然而現(xiàn)在，粉絲可以花更少的錢(qián)或者免費(fèi)觀看她的 Deepfake 視頻，只要帶著她的大名搜索 google。與此同時(shí)，心理創(chuàng)傷如影隨形：
人們總是在發(fā)布新視頻，在你不同意的情況下看到自己出現(xiàn)在色情片中，感覺(jué)很惡心。
AI 色圖這把火，也遲早燒到真人頭上。一位在 Reddit 發(fā)圖的「女菩薩」很是悲觀：
操作猛如虎，維權(quán)打地鼠過(guò)去沒(méi)有采取任何措施來(lái)保護(hù)我們，所以我不明白為什么現(xiàn)在會(huì)激勵(lì)任何保護(hù)措施。
作惡成本低、維權(quán)成本高，是 2017 年「黃色」Deepfake 興起之時(shí)就有的毛病了，現(xiàn)在它只會(huì)變得更加嚴(yán)重。
撤下未經(jīng)本人同意的 AI 色圖，往往是靠受害者自行發(fā)現(xiàn)，或者平臺(tái)事后補(bǔ)救。
按照 Google 的服務(wù)條款，如果證據(jù)充分，用戶可以請(qǐng)求 Google 刪除某條具體的鏈接。然而「野火燒不盡」，這就像一個(gè)沒(méi)有終點(diǎn)的打地鼠游戲。
不過(guò)，Google 也在改進(jìn)排名系統(tǒng)，減少此類內(nèi)容的出現(xiàn)。
Google 的服務(wù)條款.
提供 AI 模型的平臺(tái)們也并非沒(méi)有意識(shí)到，技術(shù)存在被濫用的可能，但前所未有的內(nèi)容規(guī)模，已經(jīng)不允許平臺(tái)只是沿用以前的審核策略。
404 Media 記者發(fā)現(xiàn)，某 AI 模型網(wǎng)站的服務(wù)條款允許色情內(nèi)容，也允許真人內(nèi)容，但不允許兩者兼而有之的真人色情內(nèi)容，尤其涉及到未成年時(shí)。
然而，此類內(nèi)容仍然不斷發(fā)布，部分被平臺(tái)刪除，部分已經(jīng)「幸存」了幾個(gè)月。
某 AI 模型網(wǎng)站的服務(wù)條款.
只能說(shuō)，意識(shí)到位了，但方法沒(méi)有。對(duì)技術(shù)的規(guī)范，總是相對(duì)技術(shù)落后半步。
類似地，生成真人色情圖像，違反了 Discord 的社區(qū)規(guī)則，但管理起來(lái)并不容易，靠的主要是用戶自覺(jué)。
Discord 的信任與安全團(tuán)隊(duì)，負(fù)責(zé)檢查用戶、版主或記者的報(bào)告，如果有人確實(shí)違反了社區(qū)準(zhǔn)則，那就發(fā)出警告、刪除內(nèi)容、關(guān)停賬號(hào)等，存在一定的被動(dòng)性。
Discord 的社區(qū)準(zhǔn)則，上為原文下為翻譯.
諷刺的是，把 AI 色圖分享到 Discord，也會(huì)被 AI 模型網(wǎng)站的用戶內(nèi)部批評(píng)，不是問(wèn)心有愧，而是因?yàn)檫@壞了規(guī)矩，有可能讓社區(qū)被禁：「你可以在網(wǎng)站上創(chuàng)建它，但不能在這里分享。」
甚至法律也不一定派上用場(chǎng)，就像 Deepfake 存在這么久了，美國(guó)只有幾個(gè)州在為它立法，但因?yàn)殡s亂無(wú)章，很難真正執(zhí)行，并且有些創(chuàng)作者想盡辦法隱藏身份，既然找不到人維權(quán)，很多時(shí)候受害者只能吃下啞巴虧。
好在幾個(gè)更加主流的文生圖工具，用技術(shù)為技術(shù)事先附加了制約。
OpenAI 旗下的 Dall-E，盡可能減少了訓(xùn)練數(shù)據(jù)中的裸體圖像，并且在實(shí)際使用過(guò)程中，阻止某些提示詞的輸入，以及在圖片顯示給用戶之前掃描輸出結(jié)果。
Midjourney 也有屏蔽詞和人工審核，還計(jì)劃推出更先進(jìn)的、能夠關(guān)聯(lián)上下文的過(guò)濾功能。
Stable Diffusion 背后的公司 Stability AI 也曾回應(yīng)過(guò)類似的問(wèn)題，「對(duì)任何開(kāi)源代碼所做的事情都是無(wú)法控制的」。
盡管如此，Stability AI 認(rèn)為，識(shí)別此類行為并將其定為犯罪，還有很多事情可以做，開(kāi)發(fā)者社區(qū)和互聯(lián)網(wǎng)基礎(chǔ)設(shè)施提供商也應(yīng)該參與進(jìn)來(lái)。
簡(jiǎn)言之，對(duì)技術(shù)的規(guī)范就像鈍刀子割肉，不能立刻起效，而 AI 色圖的問(wèn)題遠(yuǎn)比以前嚴(yán)重，靠的是一條運(yùn)行順暢的「生產(chǎn)鏈」：
提供訓(xùn)練圖像的內(nèi)容社區(qū)；
生成色圖的開(kāi)源技術(shù)；
將 AI 模型和圖片商業(yè)化的平臺(tái)；
自從 Deepfake 問(wèn)世，我們就遇到了同樣的問(wèn)題。人性難測(cè)，技術(shù)的普及和濫用只有一步之遙，工具更加容易上手了，商業(yè)模式也走通了，那么創(chuàng)建和分發(fā)色圖的動(dòng)力就更大了。
很多時(shí)候，互聯(lián)網(wǎng)的成人行業(yè)已經(jīng)被「非人化」地看待，當(dāng)真正非人的 AI 取而代之，繼續(xù)滿足刻板印象，可能導(dǎo)致物化更上一層樓，而不是停止物化。
就像《攻殼機(jī)動(dòng)隊(duì)》提出的問(wèn)題那樣，真實(shí)和虛假不再溝壑分明。完全像你的人做出了你從來(lái)不會(huì)做的事，但你很難證明那不是你，數(shù)據(jù)就是你，存在過(guò)的痕跡就是你。
每當(dāng) AI 被最先應(yīng)用到色情產(chǎn)業(yè)，總有人說(shuō)，這會(huì)加速技術(shù)普及，或者不再需要真人。有人用金錢(qián)兌換欲望，有人不經(jīng)意被投入技術(shù)熔爐，卻沒(méi)有誰(shuí)會(huì)為傷害買(mǎi)單。
