【ITBEAR科技資訊】4月3日消息，最近一張特朗普被逮捕的照片在社交媒體上引發熱議。然而，這張照片并不是真的，而是由荷蘭的一家開源調查媒體“響鈴貓”網站的創始人艾略特?希金斯用AI技術制作的。據希金斯表示，他想要把有關特朗普可能被捕的消息可視化，于是用文本到圖像模型生成了一些看起來很逼真的照片，并在推特上分享。這條推文在兩天內被瀏覽了近500萬次，并獲得了超過7.9萬個點贊。
數字內容分析公司Truepic的穆尼爾?易卜拉欣說，“合成內容正在快速發展，真實和虛假內容之間的差距變得越來越難分辨”。如今各種AI圖像生成工具變得觸手可及，它們可在用戶發出簡單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現在可生成模仿新聞機構照片風格的圖像，如此一來，這些AI生成的圖片有望在混亂的新聞環境中“渾水摸魚”，混淆視聽。據ITBEAR科技資訊了解，Midjourney近日以濫用為由暫停了免費試用，Midjourney CEO和創始人David Holz在宣布這一決定時表示免費用戶流量過大，試用遭濫用。
虛假圖片事件引發人們對人工智能技術濫用的擔憂。人工智能專家指出，雖然制作和生成虛假圖片的技術并不新鮮，但該領域技術的進步速度以及人們對技術的濫用值得關注。希金斯認為，隨著合成圖像越來越難辨真假，對抗錯誤視覺信息的最佳方式是提高公眾的意識并加強這方面的教育，同時有必要通過立法來規范深度合成技術的使用。《財富》雜志指出，目前缺乏企業標準或政府法規來解決使用AI制造和傳播謊言的問題。
