【ITBEAR科技資訊】4月3日消息，最近在社交媒體上出現(xiàn)了一組特朗普被紐約警察逮捕的照片。然而，這些照片并非真實(shí)的，而是由人工智能(AI)技術(shù)生成的合成圖像。這些合成圖像顯示了一種新的現(xiàn)實(shí)，即在重大事件發(fā)生時(shí)，社交媒體上可能會(huì)充斥著虛假的圖片和視頻，這進(jìn)一步混淆了事實(shí)、誤導(dǎo)了公眾。人們應(yīng)該采取相關(guān)措施，部署相關(guān)技術(shù)并制訂相關(guān)政策，對(duì)這種技術(shù)進(jìn)行監(jiān)管。
數(shù)字內(nèi)容分析公司Truepic的穆尼爾·易卜拉欣指出，“合成內(nèi)容正在快速發(fā)展，真實(shí)和虛假內(nèi)容之間的差距變得越來越難分辨?！比缃?，各種AI圖像生成工具變得觸手可及，它們可在用戶發(fā)出簡(jiǎn)單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現(xiàn)在可生成模仿新聞機(jī)構(gòu)照片風(fēng)格的圖像，這意味著這些AI生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”，混淆視聽。據(jù)ITBEAR科技資訊了解，這些“特朗普被捕”的照片是由荷蘭的一家開源調(diào)查媒體“響鈴貓”網(wǎng)站的創(chuàng)始人艾略特·希金斯用AI繪畫工具M(jìn)idjourney制作的。
對(duì)抗錯(cuò)誤視覺信息的最佳方式是提高公眾的意識(shí)并加強(qiáng)這方面的教育。希金斯認(rèn)為，隨著合成圖像越來越難以辨別真假，社交媒體公司應(yīng)該將重點(diǎn)放在開發(fā)能夠辨別AI生成圖像的新技術(shù)上，并將這種技術(shù)融入自己的平臺(tái)。雖然制作和生成虛假圖片的技術(shù)并不新鮮，但該領(lǐng)域技術(shù)的進(jìn)步速度以及人們對(duì)技術(shù)的濫用值得關(guān)注。
