隨著技術(shù)的不斷迭代，AIGC 圖片已經(jīng)能夠做到“以假亂真”，AI 和非 AI 作品之間的區(qū)別有時(shí)候已經(jīng)難以“肉眼”來區(qū)別。
圖片來源：由無界 AI 生成
AI生成的圖像每天都變得越來越流行。 但我們?nèi)绾尾拍芨玫刈R(shí)別它們，尤其是當(dāng)它們看起來如此逼真時(shí)？
谷歌人工智能團(tuán)隊(duì) google DeepMind 剛剛宣布與谷歌云合作推出了 SynthID，這是一款用于添加水印和識(shí)別 AI 生成圖像的工具。 該技術(shù)將數(shù)字水印直接嵌入圖像的像素中，使其無法被人眼察覺，但可以檢測(cè)到進(jìn)行識(shí)別。
SynthID目前可以為谷歌文生圖模型 Imagen 生成的圖片添加水印，并且識(shí)別圖片是否為該模型生成，目前已經(jīng)發(fā)布了 beta 版本。谷歌 CEO 桑達(dá)爾?皮查伊稱贊 SynthID 是 DeepMind 在水印方面的重要早期進(jìn)展。
雖然 AIGC 可以釋放巨大的創(chuàng)造潛力，但它也帶來了新的風(fēng)險(xiǎn)，比如讓創(chuàng)作者有意或無意地傳播虛假信息。 能夠識(shí)別 AI 生成的內(nèi)容對(duì)于讓人們了解何時(shí)與生成的媒體進(jìn)行交互以及幫助防止錯(cuò)誤信息的傳播至關(guān)重要。
SynthID如何識(shí)別 AI 圖片？其原理？
“看不見”的 AI 水印
水印是可以分層在圖像上以識(shí)別圖像的設(shè)計(jì)。 從紙上的物理印記到今天數(shù)碼照片上看到的半透明文本和符號(hào)，它們?cè)谡麄€(gè)歷史中不斷演變。
傳統(tǒng)水印不足以識(shí)別人工智能生成的圖像，因?yàn)樗鼈兺ǔＯ駡D像上的圖章一樣應(yīng)用，并且很容易被 PS 掉。這些水印通常還會(huì)占據(jù)整個(gè)圖像面積的很大一部分，嚴(yán)重影響圖像本身的美觀。
傳統(tǒng)水印在添加濾鏡、更改顏色和亮度等修改之后，很容易受到影響，甚至可能難以再被檢測(cè)到。SynthID 則不會(huì)，即使在添加濾鏡、更改顏色以及使用各種有損壓縮方案（最常用于 JPEG）進(jìn)行保存等修改之后，水印仍可被檢測(cè)到。
SynthID為 AI圖像生成難以察覺的數(shù)字水印
SynthID使用兩種深度學(xué)習(xí)模型（用于添加水印和識(shí)別水印），這兩種模型已在不同的圖像集上一起進(jìn)行訓(xùn)練。 組合模型針對(duì)一系列目標(biāo)進(jìn)行了優(yōu)化，包括正確識(shí)別帶水印的內(nèi)容以及通過在視覺上將水印與原始內(nèi)容對(duì)齊來提高不可察覺性。
即使在添加濾鏡、更改顏色和亮度等修改之后，SynthID 添加的水印也可以被檢測(cè)到
根據(jù)谷歌內(nèi)部測(cè)試，由 Imagen 生成并經(jīng)過 SynthID 添加水印的圖像，在經(jīng)過許多常見的圖像處理之后，SynthID 仍舊能夠準(zhǔn)確識(shí)別出來。
SynthID的組合方法：
添加水印：SynthID 可以為 Imagen 生成的合成圖像添加難以察覺的水印。
識(shí)別水印：通過掃描圖像中的數(shù)字水印，SynthID 可以評(píng)估其為 Imagen 創(chuàng)建圖像的可能性。
SynthID可以幫助評(píng)估圖像由 Imagen 創(chuàng)建的可能性。該工具提供了三個(gè)置信度來解釋水印識(shí)別的結(jié)果（檢測(cè)到數(shù)字水印、未檢測(cè)到數(shù)字水印、可能檢測(cè)到數(shù)字水印）。 如果檢測(cè)到數(shù)字水印，則圖像的一部分可能是由 Imagen 生成的。
識(shí)別內(nèi)容最廣泛使用的方法之一是通過元數(shù)據(jù)，它提供諸如創(chuàng)建者和時(shí)間等信息。 該信息與圖像文件一起存儲(chǔ)。 添加到元數(shù)據(jù)的數(shù)字簽名可以顯示圖像是否已更改。
當(dāng)元數(shù)據(jù)信息完整時(shí)，用戶可以輕松識(shí)別圖像。 但是，元數(shù)據(jù)可能會(huì)在編輯文件時(shí)被手動(dòng)刪除甚至丟失。 由于 SynthID 的水印嵌入圖像的像素中，因此它與其他基于元數(shù)據(jù)的圖像識(shí)別方法兼容，并且即使元數(shù)據(jù)丟失也仍然可檢測(cè)到。
但對(duì)于一些經(jīng)過極端處理的圖像，DeepMind 團(tuán)隊(duì)也表示 SynthID 并不能保證萬無一失，但它確實(shí)提供了一種有前途的技術(shù)方法，推動(dòng)人們和組織能夠負(fù)責(zé)任地使用 AI 生成的內(nèi)容。
