【環球時報駐美國特約記者 張思思 環球時報記者 陳子帥】一周以來，一連串AI/ target=_blank class=infotextkey>人工智能（AI）生成內容對經濟運行帶來負面影響的事件暴露在公眾視野內。周一，一張顯示美國五角大樓附近發生爆炸的圖片在海外社交網站上迅速傳播，受此圖片影響，美國股市出現明顯下跌。美國《紐約時報》對此報道稱，“一場人工智能帶來的‘惡作劇’讓市場不安”。無獨有偶，24日，中國人工智能研發公司科大訊飛受一篇名為《科大訊飛出現重大風險的警示文》的文章影響，股價也迅速跳水。該公司緊急回應稱，股價下跌系某生成式AI寫作虛假“小作文”導致。在此期間，“AI換臉”“AI換聲”進行詐騙的事件在多國頻發。隨著AI技術的高速發展，潛在的數據、算法危機帶來的危害已在真實發生，多國也加緊從政策層面對其進行監管與約束。
“AI生成圖像首次影響市場”
對于“五角大樓爆炸圖片引發美股大跌”事件，彭博社報道稱，這可能是人工智能生成圖像首次影響市場。德意志銀行全球經濟和專題研究主管吉姆·里德對此評價稱，未經證實的五角大樓爆炸報道在網上傳播后，市場出現短暫的拋售。這一由AI生成的假新聞對資產價格造成沖擊的例子，揭露了市場未來將面臨的潛在風險。此外，假圖片的出現正值美國債務上限談判的關鍵節點，投資者神經十分緊繃。另據福布斯新聞網報道，近來由AI生成的非常逼真的“深度偽造圖像”已經多次在網上引起轟動，其中包括美國前總統特朗普在一次假逮捕中抵抗當局的逼真圖像。
AI生成內容的“以假亂真”令投資市場增加了更多不確定性。據《紐約時報》報道，美國證券交易委員會主席加里·詹斯勒曾警告稱，一些不法分子可能會通過人工智能來影響本就“脆弱的”金融體系。美國聯邦貿易委員會也對AI生成的深度偽造圖像和克隆語音系統可能被用作新型欺詐手段向人們發出了警告。
近期通過“AI換臉”技術實施詐騙的案件也頻頻發生。中國互聯網協會24日發文表示，伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。例如，近期包頭市公安局電信網絡犯罪偵查局發布一起使用智能AI技術進行電信網絡詐騙的案件。
通過AI技術生成的圖像、文本等內容也被質疑涉嫌侵權。據報道，某AI軟件具有模仿歌手音色并進行翻唱的功能，律師表示，在沒有原歌手授權或同意的情況下進行“AI翻唱”，已經構成侵權。
盡管人工智能對金融資本市場帶來了一定風險，但《紐約時報》表示，這并不意味著人工智能總是“可怕的”，對這一技術的投入研發推高了谷歌、微軟等相關公司的市值。
多國緊急搭建AI“護欄”
近期公布的一項益普索民意調查顯示，超過2/3的美國人擔心人工智能的負面影響，61%的人認為它可能威脅文明。不僅民眾，政府對人工智能也感到擔憂。多國也已經走在了出臺相關措施的道路上。早在今年4月11日，中國國家網信辦就起草了《生成式人工智能服務管理辦法（征求意見稿）》，并向社會公開征求意見。
“唐寧街10號首次承認了AI存在風險”，據英國《衛報》25日報道，英國首相蘇納克當地時間周三晚會見了OpenAI、谷歌Deepmind和Anthropic的首席執行官，討論人工智能監管的必要性。會議后發表的一份聯合聲明表示，AI技術的成功取決于是否有“正確的護欄”，以確保公眾相信它是安全的。蘇納克表示，對AI的監管必須要靈活并且尋求國際間的合作。
據《華爾街日報》報道，拜登政府周二宣布正在制定一項國家人工智能戰略，以防范虛假信息和該技術的其他潛在缺陷。
此外，據路透社報道，歐盟也在推進《人工智能法案》，這可能是全球首部全面管理該技術的法律文書，不過歐盟各國政府和立法者仍然需要時間就法律文本內容達成一致。為防范AI詐騙，統一俄羅斯黨正在起草一項對AI監管的法案，該法案將確定有關責任，防范犯罪者利用AI進行詐騙。
“監管不意味著追求零錯誤”
“全球監管的發展需要大量的時間和精力”，《印度人報》報道稱，“節奏問題”是監管面臨的挑戰之一，因為技術的應用和傳播速度很快，而法律法規的制定和推廣速度卻相對較慢。
針對各國為應對AI風險正在探討或者已經推出的相關監管規則，浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林認為，AI監管的重點在于如何在不影響人工智能發展的前提下推動監管，讓人工智能在健康環境下實現可持續發展，而監管在規則制定上要具備可執行性。
清華大學新聞學院教授、元宇宙文化實驗室主任沈陽25日對《環球時報》記者表示，想要最大程度消除AI“假內容”造成的負面影響，目前來看有效方式是加大信息公開力度，這能確保對應的信息辟謠功能。“對于‘謠言’，我們不能完全用‘堵’的策略，因為這反而會造成信息的扭曲和變異，信息公開一定是對沖信息謬誤的最佳手段。”
沈陽認為，未來這種深層次人工智能造成的“以假亂真”將是一種常態化現象，防控深層次內容謬誤的成本也會隨之急劇上升，所以要在防控成本和最大錯誤接受限度之間尋找平衡。“不應把監管的目標定位追求零錯誤，這只會導致成本無限高，同時阻礙技術發展。”
