人工智能的倫理挑戰(zhàn)不僅體現(xiàn)在“技術鴻溝”中，也體現(xiàn)在更為廣泛的領域。這些挑戰(zhàn)集中體現(xiàn)在四個維度
在人工智能技術與規(guī)則方面領先的國家，正處于技術優(yōu)勢快速積累周期，這種優(yōu)勢很可能成為諸如半導體領域存在的“卡脖子”工具，為人工智能后發(fā)國家的進步帶來阻礙
2023年成為全球人工智能倫理治理開局之年。各國政府及國際組織開始密集討論人工智能的倫理問題，發(fā)布一系列聲明、愿景及政策，試圖規(guī)范人工智能的發(fā)展路徑
相比于治理風險，美國更不愿在確保自身技術絕對領先前就嚴格限制該技術的發(fā)展。因此，美國在人工智能治理上往往落后于各國進度，也滯后于技術發(fā)展
文 | 李崢 張嵐舒
2023年，伴隨著新一代生成式人工智能應用ChatGPT的橫空出世，國際社會對于人工智能倫理挑戰(zhàn)的討論也日益升溫。越來越多的觀察人士發(fā)現(xiàn)，人工智能的快速發(fā)展可能超出了人類社會的準備，并認為其帶來的風險不可忽視。倫理挑戰(zhàn)已經(jīng)成為人工智能帶來的廣泛爭議中最為突出的話題，也將對未來人工智能與人類社會的互動過程帶來深遠影響。
上海科技創(chuàng)新成果展上的機器人展品（2023 年11月29日攝） 方喆攝/本刊
四個維度看人工智能倫理挑戰(zhàn)
與互聯(lián)網(wǎng)的誕生類似，人工智能也將給世界帶來重大變革。這種影響通常是一柄雙刃劍，新技術既改造了世界，又沖擊了世界，并不是每個人都能從中均等受益。人工智能的倫理挑戰(zhàn)不僅體現(xiàn)在“技術鴻溝”中，也體現(xiàn)在更為廣泛的領域。這些挑戰(zhàn)集中體現(xiàn)在四個維度。
第一個維度源于人工智能的“自主性”，這意味著該技術相比其他前沿技術更容易脫離人類控制。相關倫理挑戰(zhàn)主要體現(xiàn)在人工智能是否會欺騙人類和控制人類意識，是否會消減人類的發(fā)展機會。
相比互聯(lián)網(wǎng)及社交媒體，人工智能能夠更加全面地理解個體、“感知”和預測用戶的所想所需。這種能力與“深度偽造”技術相結合，將進一步加劇針對不同群體的“控制”和“欺騙”。通過定向信息投喂，人工智能可能制造出更加嚴密的“信息繭房”、更加深度的“意識操控”。2023年，英國法院判決了一起人工智能聊天機器人慫恿一名男子刺殺女王的案件，即體現(xiàn)出此類風險。
以ChatGPT為代表的生成式人工智能不斷迭代進步，也讓商業(yè)界看到了越來越廣闊的“人力替代”場景。根據(jù)麥肯錫咨詢公司的預測，到2030年，隨著人工智能等技術的進步，多達3.75億名勞動者可能面臨再就業(yè)問題。調(diào)研公司牛津經(jīng)濟也得出類似結論，到2030年，全球大約2000萬個制造業(yè)工作崗位將消失，這些工作將轉向自動化系統(tǒng)，而被迫轉移的制造業(yè)勞動力即便轉向服務業(yè)崗位，也同樣面臨被機器替代的局面。在眾多的崗位中，被人工智能技術取代風險最高的工作類型包括程序員、軟件工程師、數(shù)據(jù)分析師等技術類工作，廣告、內(nèi)容創(chuàng)作、技術寫作、新聞等媒體類工作，以及律師、市場分析師、教師、金融分析師、財務顧問、交易員、平面設計師、會計、客服等。這些崗位普遍具有較高學歷，人員失業(yè)意味著巨大的人力資本損失，將加劇一些國家的結構性失業(yè)難題。
第二個維度源于人工智能的“非透明性”，這意味著該技術隱藏的風險更難以被探知，問題無法及時披露并引起社會關注。
人工智能應用離不開算力、算法兩項支撐，但這兩項重要資源均不透明。對于生成式人工智能大模型來說，每次內(nèi)容生成均將調(diào)用數(shù)以億計的參數(shù)和數(shù)據(jù)，幾乎很難解釋其決策過程。過程及內(nèi)容的不透明讓人工智能更容易存在隱患。大模型的設計缺失或冒進很可能造成隱私信息泄露、數(shù)據(jù)過度收集和濫用、算法不可控等問題。生成式人工智能的輸出內(nèi)容有可能帶有誤導性，包含不真實也不準確的信息，誤導人類決策過程。一些犯罪者也可能采用“數(shù)據(jù)投毒”“算法投毒”的方式誤導人工智能系統(tǒng)，引發(fā)更大范圍的系統(tǒng)性故障。
近年來，人工智能的軍事化部署最令人擔憂。人工智能系統(tǒng)正在被各國加速部署在帶有進攻型武器的系統(tǒng)之中，這使得“智能作戰(zhàn)”系統(tǒng)決策失誤從而“擦槍走火”甚至引爆、惡化戰(zhàn)爭的風險不斷上升。
第三個維度源于人工智能的“拓展性”，這意味著該技術可被各類人群和組織運用，其中可能包括一些別有用心的人群。
人工智能具有易移植、易被改造、易集成的特點，技術突破容易擴散，同樣的算法可能服務于完全相悖的目的。一些犯罪分子可以繞過模型安全策略向人工智能套取“危險知識”，他們同樣可將人工智能改造為犯罪工具。美國《福布斯》網(wǎng)站稱，人工智能已經(jīng)成為電信詐騙領域最強力的武器，任何一個國家都很難逃過這場波及全球的浩劫。被人工智能賦能后的電信詐騙行為有可能成為全球最具危害性的有組織犯罪。
第四個維度源于人工智能的“壟斷性”，這意味著該技術高度依賴資本投入，先進算法的使用有很高門檻，包含設計者和數(shù)據(jù)形成的算法偏好，容易擴大階層分化。
首先，人工智能可能加劇壟斷行為。人工智能已經(jīng)成為營銷領域最具威力的“大規(guī)模殺傷性武器”，全方位改變了企業(yè)的營銷策略。但是，這種更為精確的營銷也可能助長“千人千價”等行為。
其次，人工智能可能加劇現(xiàn)實歧視。人工智能應用的算法受數(shù)據(jù)驅(qū)動，這些數(shù)據(jù)涵蓋種族、性別、信仰、殘障、傳染病等特定標簽，反映人類社會龐雜的價值觀、意識形態(tài)特點。一旦偏見被引入相關應用模型訓練中，算法輸出的內(nèi)容就可能出現(xiàn)對個人或群體、國家的偏見或偏愛，引發(fā)公平性問題。
最后，人工智能可能帶來發(fā)展的不公平。人工智能的關鍵專業(yè)知識和前沿技術集中在少數(shù)企業(yè)和國家，這些企業(yè)和國家具有先發(fā)優(yōu)勢，這必然導致全球人工智能產(chǎn)業(yè)發(fā)展的參差，將更大程度加深全球“數(shù)字鴻溝”。同時，在人工智能技術與規(guī)則方面領先的國家，正處于技術優(yōu)勢快速積累周期，這種優(yōu)勢很可能成為諸如半導體領域存在的“卡脖子”工具，為人工智能后發(fā)國家的進步帶來阻礙。
在杭州亞運會田徑女子鐵餅決賽前，一名工作人員將鐵餅放在用來搬運鐵餅的機器狗上（2023年10月1日攝） 江漢攝/本刊
全球人工智能倫理治理開局之年
上述倫理挑戰(zhàn)正在引起國際社會的廣泛關注。2023年，各國政府及國際組織開始密集討論人工智能的倫理問題，發(fā)布一系列聲明、愿景及政策，試圖規(guī)范人工智能的發(fā)展路徑。
聯(lián)合國在人工智能倫理治理上扮演了更加重要的作用。2023年，聯(lián)合國在推動各國凝聚共識、探討安全風險和治理合作方面取得一定進展。3月，聯(lián)合國教科文組織號召各國立即執(zhí)行該組織于2021年11月發(fā)布的《人工智能倫理問題建議書》。7月，聯(lián)合國首次舉行由人形機器人與人類一同參加的新聞發(fā)布會，9個人形機器人接受了參會專家和各路媒體的提問；舉辦“人工智能造福人類”全球峰會，討論未來人工智能的發(fā)展和治理框架；安理會就人工智能對國際和平與安全的潛在威脅舉行首場公開辯論。10月，聯(lián)合國秘書長古特雷斯宣布組建人工智能高級別咨詢機構，全球39名專家加入，共商人工智能技術風險與機遇，為加強國際社會治理提供支持。由此可見，聯(lián)合國已經(jīng)將人工智能倫理納入全球治理議程，未來將推動形成更加正式、更有約束力的組織及治理規(guī)范。
歐盟為人工智能專門立法，對該技術實施全面監(jiān)管。歐盟委員會2021年提出《人工智能法案》提案的談判授權草案，嚴格禁止“對人類安全造成不可接受風險的人工智能系統(tǒng)”，要求人工智能公司對算法保持控制，提供技術文件，并建立風險管理系統(tǒng)。在歷經(jīng)馬拉松式談判后，歐洲議會、歐盟成員國和歐盟委員會三方2023年12月8日就《人工智能法案》達成協(xié)議，該法案成為全球首部人工智能領域的全面監(jiān)管法規(guī)。
美國出臺監(jiān)管政策，但立法進程較為緩慢。相較于歐盟，美國監(jiān)管要求少，主要強調(diào)安全原則，鼓勵企業(yè)自律。2023年1月，美國國家標準與技術研究院（NIST）正式公布《人工智能風險管理框架》，旨在指導組織機構在開發(fā)和部署人工智能系統(tǒng)時降低安全風險，但該文件是一份非強制的指導文件。10月，拜登簽署美國迄今為止最全面的人工智能監(jiān)管原則，即《關于安全、可靠、可信地開發(fā)和使用人工智能的行政令》，該行政令超越了AI target=_blank class=infotextkey>OpenAI、谷歌和Meta等公司今年早些時候做出的自愿承諾，但仍缺乏強制執(zhí)行效能。拜登政府在行政令發(fā)布后敦促國會盡快推出相關立法。美國國會參議院多數(shù)黨領袖舒默已分別在9月和10月主持召開兩次人工智能洞察論壇收集業(yè)界建議，并期望在數(shù)月內(nèi)準備好人工智能立法，但未來此類法案能否順利通過尚未可知。
英國在人工智能治理外交上投入更多資源。2023年11月，首屆全球人工智能安全峰會在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表參會。會議最終通過《布萊奇利宣言》，強調(diào)人工智能的許多風險本質(zhì)上是國際性的，因此“最好通過國際合作來解決”。與會者同意協(xié)力打造一個“具有國際包容性”的前沿人工智能安全科學研究網(wǎng)絡，以對尚未完全了解的人工智能風險和能力加深理解。英國為舉辦此次峰會開展大量前期準備和外交斡旋，意在將本國樹立為全球人工智能治理的“召集人”。未來，越來越多的國家將在人工智能治理外交上投入更多資源，爭奪這一新興領域的話語權。
中國高度重視人工智能治理問題，治理理念側重于平衡發(fā)展和安全。2023年4月，國家互聯(lián)網(wǎng)信息辦公室起草《生成式人工智能服務管理辦法（征求意見稿）》。《生成式人工智能服務管理暫行辦法》于7月正式公布，從技術發(fā)展與治理、服務規(guī)范、監(jiān)督檢查和法律責任等方面對生成式人工智能做出具體規(guī)定，并于8月15日起施行，是全球首部針對生成式人工智能的專門立法。與此同時，中國在年內(nèi)也推出一系列針對深度合成、算法等專門領域的規(guī)定，例如1月生效的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、3月生效的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》。10月，中國提出《全球人工智能治理倡議》，對個人隱私與數(shù)據(jù)保護、數(shù)據(jù)獲取、算法設計、技術開發(fā)以及風險等級測試評估和倫理準則等提出了具體的原則準則或建議。
美國為何行動遲緩
相比于美國在人工智能技術應用層面的發(fā)展速度，美國關于人工智能監(jiān)管的政策和立法行動遲緩，這是諸多因素共同作用的結果。
首先，美國不愿放棄人工智能有利地位。
美國政府和戰(zhàn)略界人士普遍認為，人工智能是決定美國能否在下一輪全球科技競爭中勝出的戰(zhàn)略性技術之一。從奧巴馬時期開始，美國政府即提出若干相關國家規(guī)劃和愿景。特朗普政府和拜登政府的人工智能行政令均強調(diào)維護“美國人工智能的領導地位”，將這一目標作為美國治理人工智能的基礎性目標。相比于治理風險，美國更不愿在確保自身技術絕對領先前就嚴格限制該技術的發(fā)展。ChatGPT大熱后，美國相關監(jiān)管政策陸續(xù)出臺，其目標不僅僅是應對治理風險，更是為了防范該技術快速擴散從而削弱美國領先優(yōu)勢。
其次，人工智能倫理問題在美國被政治化，兩黨難以協(xié)調(diào)分歧達成治理共識。
近年來，美國政治極化加劇，兩黨在幾乎所有社會問題上均意見對立，在涉及民眾生活方式的人工智能倫理上更是如此。在議題上，民主黨更關注個人隱私、算法歧視、算法公正等與多元化相關的議題；共和黨則更關注國家安全、人工智能犯罪等安全性議題。在風險防范上，民主黨認為人工智能造假、傳謠領域的應用是最突出風險，要求強化社交媒體等中間傳播渠道責任；共和黨則認為此類治理措施存在政治動機，對共和黨參選人不利。受2024年大選影響，兩黨的矛盾和爭論更加尖銳，讓立法進度明顯滯后于形勢發(fā)展。從拜登政府在2023年底陸續(xù)推出一系列人工智能治理政策文件可以看出，民主黨有意率先打破僵局，將人工智能治理作為一個潛在的競選議題，加速該議題的立法進程。
最后，美國管控人工智能也面臨一些制度上的障礙。
美國政治傳統(tǒng)中的所謂“自由至上”“個人至上”不利于管控去中心化、風險分散、快速擴散的技術和應用。這種傳統(tǒng)容易在各州之間形成監(jiān)管空白，也讓政府難以動用行政資源鏟除非法利益鏈條。槍支泛濫、毒品犯罪等美國社會頑疾均與此有關，危險的人工智能應用也可能成為美國下一個泛濫成災的社會風險。
這種遲疑可能會導致全球人工智能“軍備競賽”風險上升。美國作為全球人工智能技術研發(fā)最為領先的國家，有義務成為全球推動人工智能相關監(jiān)管措施的最早參與者，但美國尚未形成監(jiān)管立法，在全球?qū)用嫱七M人工智能治理的議程也隨之放緩，將使越來越多的國家忽視管控，一味追求技術領先，進而加入算法“軍備競賽”。這種競逐色彩可能會使人工智能漸漸偏離健康有序的發(fā)展方向，無疑將為后續(xù)全球立法和治理帶來更多阻礙，也使各國圍繞人工智能的惡性競爭事件發(fā)生風險升高。
（李崢：中國現(xiàn)代國際關系研究院美國研究所所長助理；張嵐舒：中國現(xiàn)代國際關系研究院美國研究所助理研究員）
