不知道大伙兒還記不記得，幾個月前有個老板 10 分鐘被騙走 430 萬的 AI 詐騙事件？
因為被詐騙的金額過于大，當時還引起了不小的轟動。
而在那之后，什么 9 秒被騙 245 萬， 7 秒視頻通話被騙 30 萬，類似的 AI 詐騙事件是接二連三。
更可怕的是，利用 AI 換臉、 AI 換聲，還 衍生出了一條灰色產業鏈。
今年 3 月，一名女生在地鐵被偷拍后又被人換成全裸的照片，一度沖上了熱搜。
而像這種一鍵換臉，或者一鍵脫衣的違法行為在外網上可謂猖獗，有些人就是靠著販賣 AI 換臉軟件，或是幫助別人把臉換到色情視頻里，以此來賺錢。
雖說，咱們現在都知道有 AI 換臉這回事兒，但這東西它防不勝防， 即使臉和聲音都對得上，也不一定是本人。
這才是 AI 的可怕之處。
現在是有一些用于檢測內容是否由 AI 生成的工具，但檢測的準確性， emm 多少還是有點一言難盡。
前不久， OpenAI 還下線了自家的 AI 檢測工具，理由就是錯誤率太高了。。。
所以要阻止技術濫用的問題，光靠檢測是不夠的，還得從根源上找法子。
最近，國外的創意內容平臺 Shutterstock 宣稱，要用一種叫做 C2PA 的協議，給自家平臺上的 AI 生成內容打上標簽，用來區分人類創作。
這 C2PA 協議，倒也不是啥新技術。
兩年前， Adobe 、微軟、 BBC 等幾家科技公司和媒體一起合作，成立了一個內容來源和真實性聯盟 ( C2PA ) 。
成立的初衷呢也簡單，當時受到 AI 等數字技術的影響，媒體發布內容的可信度越來越低，于是這些個巨頭就想通過建立 C2PA 協議，打擊網絡上的一些虛假信息。
具體來看，這個 C2PA 協議是一種類似區塊鏈的加密技術。
就比如說，一張圖像里包含了數百萬的像素， C2PA 通過數據加密技術給每個像素的來源信息進行編碼，它最大的特點就是可以 溯源。
簡單來理解，有了 C2PA 協議之后， 內容是誰創作的，歷史的修改記錄，這些都會被記錄下來。
就相當于給你的圖像、視頻打上了一層看不見的水印（ 文本目前暫時還不適用 ）。
這個協議雖說不能防止 AI 作惡，但有了水印之后，至少能反向解決 AI 檢測工具準確率不高的問題。
當你看到某段視頻的時候，到底是 AI 生成，還是人類創作的，一目了然。
C2PA 協議推出之后，已經有部分企業將其集成到了自家的產品當中。
像微軟，就已經在自家的 Bing Image Creator 和 Microsoft Designer 里裝上了 C2PA 協議， AI 生成的圖像都會被標記，并且還會披露出元數據的來源。
當然了，這種加密方法也存在一定的 bug ，那就是需要有足夠多的內容創作者和平臺使用這協議，不然也是白搭。
如果想要給平時拍的每一張照片都打上水印，這就需要把協議集成到手機相機里，又或者，你在 PS 上設計的圖片，也需要平臺集成了這個協議才行。
也就是說， C2PA 協議要生效，需要完整的使用鏈條。
可惜的是，目前在協議上，整個互聯網還沒形成統一的共識。
不過最近，來自 MIT 的大佬們，又推出了另外一個叫做 PhotoGuard的工具。
這跟上邊兒的協議還不太一樣，如果說 C2PA 只是留下水印，那么 PhotoGuard 的方式就更簡單粗暴了，直接切斷了 AI 生成內容的生路。
原理很簡單，就是利用 PhotoGuard 在原始照片中引入一種干擾的噪聲得到免疫圖片（ immunize images ），但同時這種噪聲又很難被察覺出來。
當有人想用圖片進行 AI 惡搞時，就會得到一堆馬賽克、或者扭曲的照片。
就比如論文中，原始照片是兩個男人在看打網球，如果沒有加防護，那么就會被隨意更改，比如這樣。
但 PhotoGuard 可以生成一模一樣的免疫照片出來。
如果再有人想用 AI 來惡搞，就會得到一張這樣的照片。
一個是打水印，一個是直接把路封死，要真的跟 AI 詐騙打起來，還不是嘎嘎亂殺？
但問題也出在這， 技術有，但是還沒能大規模用起來。
即使有微軟、 Adobe 、 Arm 這些巨頭撐腰， C2PA 協議的大面積鋪開也還需要些時日，更別提剛出來的 PhotoGuard 了。
不過好在，事情還是朝著樂觀的方向在發展。
包括上邊兒提到微軟的兩個工具，還有 Shutterstock 平臺，今年陸陸續續都開始用起來了。
照著這勢頭， C2PA 在不久的將來或許大有可為。
況且， C2PA 協議一直都是開源的，這就方便了很多人把協議集成到應用當中。
畢竟， AI 詐騙、灰產肆意橫行的同時，也在反推大家思考如何加快反 AI 詐騙的步伐。
同時呢，像 C2PA 這種打水印的方式，也給 AI 生成內容的版權問題，提供一個解決思路。
對于 AI 生成的內容，大家爭論的關鍵點就是不希望自己的作品獻祭給 AI 。
那倘若生成的結果顯示數據來源了，作品收入也會根據來源來分成，那是不是也可以算作一種新的商業模式？
當然了，這也只是一種假設。
回到反 AI 詐騙本身，技術的進步固然重要，如果相關法規能適時再添一把火，相信也能好好治一治 AI 帶來的這股不良風氣。
不管怎么說吧，在規范形成之前，咱還是多留個心眼，以后可能眼見也不一定為實咯。
撰文：西西 編輯：江江&面線 封面：煥妍
圖片、資料來源：
Github 、部分圖源網絡
美通社，科技、媒體公司攜手制定標準提升在線內容信任度
cnBeta ，微軟與 BBC 等合作研發解決信息欺詐技術
Hadi Salman 等，《 提高惡意人工智能圖像編輯的成本 》
MIT 科技評論，已獲微軟和 Adobe 支持， C2PA 協議能為 AI 生成內容貼上標簽
MIT 科技評論， MIT 團隊研發 “ 照片保護罩 ” ，能阻止 Stable Diffusion 等 AI 模型修改原圖
PetaPixel ， “Photoguard” 阻止你的照片被人工智能操縱
IT 之家，微軟打擊深度偽造，為 AI 生成的圖像和視頻加上 “ 身份證 ”
