【ITBEAR】近期，短視頻平臺上涌現了大量以“雷軍”為名的發言視頻，內容涵蓋堵車、調休、游戲等熱門議題，言辭激烈且不乏粗俗之語。然而，真相是，這些言論并非雷軍本人所發，而是借助AI配音技術制作而成。目前，相關視頻正被平臺逐步下架處理。
虛假信息歷來存在，但在當下，人人手握“麥克風”，皆可成為信息源。信息與新聞的界限愈發模糊，真假難辨的消息與洶涌的情緒交織，使得輿論場波譎云詭。相較于以往的人工造假1.0時代，AI技術的蓬勃發展已開啟了深度偽造與低價量產的2.0新篇章。換臉、換聲、換動作，乃至無中生有的文生文、文生圖、文生視頻……當虛擬形象可以低價定制，當詳細文章可以瞬間生成，當“新聞”可以輕松炮制，我們應如何應對這一挑戰？
假信息的激增已成為全球性問題，無論是國外政要、商界精英還是明星歌手，都未能幸免。流水線式的造假行為不僅侵犯隱私、混淆公眾認知，更潛藏著巨大的風險。《2024人工智能安全報告》揭示，2023年基于AI的深度偽造欺詐增長了驚人的3000%，僅今年上半年，AI詐騙案的案值就已突破1.85億元。
面對深度偽造的猖獗，識別與治理成為當務之急。有學者提出，應從假信息的生命周期和傳播鏈條的三個環節入手：制造、傳播、接受。在生產端，我國已出臺《互聯網信息服務深度合成管理規定》等法律法規，逐步明確了各方責任，期待更為有力的治理措施。平臺方面，盡管已采取措施加強識別，但仍需加強技術升級，以技術對抗技術。
信息最終作用于人，傳播媒介的迭代對受眾產生深遠影響。技術進步帶來了“信息的洪流”與“選擇的苦惱”，這也要求人們提升媒介素養，對于網絡熱點及吸睛信息，不可盲目相信、輕易轉發。進一步而言，有意識地優化媒介使用策略，平衡信源、打破“繭房”，改善“信息偏食”、拒絕“偏聽偏信”顯得尤為重要。AI由人所創造，理應為人所用、為人服務。我們應對攜手行動、以善治實現善“智”抱有信心。
