【ITBEAR】在信息時代，虛假信息如暗流涌動，而AI技術的迅猛發展更是讓這一現象愈演愈烈。近期，短視頻平臺上涌現大量假冒“雷軍”的發言視頻，言辭犀利且常伴有粗口，內容涉及堵車、調休、游戲等熱門話題。然而，這些視頻實則為AI配音所為，與雷軍本人并無任何關聯。目前，相關視頻已被平臺逐步下架。
從人工造假1.0到AI深度偽造2.0，虛假信息的制造與傳播已今非昔比。換臉、換聲、換動作，甚至無中生有，AI技術的濫用讓虛假信息泛濫成災。國外政要、商界精英、明星等公眾人物也紛紛“中招”，隱私被侵犯，公眾認知被混淆，風險隱患日益凸顯。
據《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐增長了3000%，僅今年上半年，AI詐騙案案值已超過1.85億元。面對這一嚴峻形勢，如何識別與治理深度偽造成為亟待解決的問題。
有學者提出，應從假信息的生命周期和傳播鏈條的三個環節入手：制造、傳播、接受。我國已出臺相關法律法規，如《互聯網信息服務深度合成管理規定》，逐步厘清了各方權責。同時，平臺也需加強技術升級，用技術對抗技術，以有效遏制虛假信息的傳播。
在信息的洪流中，人們也需提升自身的媒介素養。面對所謂的“網絡熱點”及吸睛信息，應保持理性判斷，避免盲目相信和輕易轉發。優化媒介使用策略，平衡信源，打破“繭房”，改善“信息偏食”，拒絕“偏聽偏信”，是每個人在信息時代應有的自覺。
