近日,由中國計算機學會主辦的我國計算領域規模最大、影響力最強的學術、技術、教育和產業盛會CNCC 2022中國計算機大會以線上會議形式隆重舉辦。商湯科技受邀出席大會“如何構建數字世界的倫理秩序”分論壇,并在會上發布了《“以實為本”的數字世界發展觀——元宇宙可持續發展報告》。商湯科技智能產業研究院院長田豐就白皮書的重點內容進行了詳細解讀。
報告指出,元宇宙的可持續發展正面臨多種倫理挑戰。作為全球領先的人工智能軟件公司,商湯致力于發展“負責任且可評估”的人工智能,結合數字經濟可持續發展的內在需求,提出“以實為本”的數字世界發展觀,為推動數字世界的健康可持續發展貢獻商湯的思考與實踐。田豐院長從“發展”的視角出發,結合商湯自身案例,介紹了商湯科技針對數字世界的治理主張,為構建實體經濟發展所需的數字世界提供可行的落地方案。
“以虛強實”,商湯提出“以實為本”的數字世界發展觀
數字經濟作為繼農業經濟和工業經濟之后的一種全新經濟形態,如今已經從數字產業化進入產業數字化的“下半場”時代。隨著人工智能、5G、XR等新一代數字技術加速向傳統行業滲透,“元宇宙”的概念也由此而生,它將實現“人、物、場”在數字世界和現實世界的實時交互、融合共生,為產業數字化帶來新的想象空間。從“復活”古生物,到線上問診的AI數字醫生,再到方便快捷的AR購物,元宇宙為物質層面的產業升級及精神層面的文藝復興提供了新的發展機遇,助推現實世界的可持續發展,“以虛強實”已成為基本共識。
伴隨技術的不斷迭代,元宇宙的發展將經歷從數字孿生到數字原生,再到數實共生的演進過程,“人、物、場”也將在不同的發展階段產生出不同的創新應用模式。但與此同時,元宇宙作為多種新興數字技術的交匯點,數字世界和現實世界的融合體,與“人、物、場”相關的信息和應用被誤用、濫用的問題和倫理挑戰,也會更加突出而復雜,給不同階段元宇宙的發展,都會帶來諸多阻礙。
“數字孿生”階段主要實現對于現實世界的動態復刻。對于“人”而言,人們在通過XR設備進入元宇宙過程中所產生的大量敏感個人身份數據,則存在被竊取冒充的風險。對于“物”來說,文化產品、歷史文物在轉為數字資產后,也會為產權信息竊取等不法行為帶來可乘之機;針對城市、工廠、園區、自然環境等“場”的可視化呈現,也意味著可能存在地理空間和經濟活動等敏感信息的暴露。
在“數字原生”階段,元宇宙將在AIGC技術的支持下逐漸超越真實場景,拓展時空體驗。AIGC將激發虛擬形象在各行各業的廣泛應用,但隨之也會出現“數字替身行為不軌”、“AI藝術剽竊”等問題,成為“人”的一大挑戰;而在“物”方面,NFT數字藏品促進了元宇宙的活躍度,卻也引發了投機炒作等問題;在“場”方面,人們在根據自身喜好構建不同虛擬場景的同時,也容易對虛擬場景產生精神依賴,形成“信息繭房”。
到了“數實共生”階段,數實交互將帶來更具真實感、臨場感和沉浸感的交互體驗。相應的,數實交互也意味著“人”受到侵害時的感知也會愈發真實;針對“物”的高實時交互技術,在生產流程中的應用也存在被篡改、盜取的風險;以數字孿生城市為代表的“場”的數實交互,同樣有著被入侵干擾而帶來隱私安全、經濟安全等風險。
元宇宙發展所存在的這些倫理挑戰,將會對“以虛強實”發展路徑的可持續性造成影響。對此,商湯認為,數字世界的可持續發展應當遵循“以實為本”的發展觀,以“滿足現實需求”為根本定位、以“遵循現實規則”為基本原則、以“符合現實利益”為最終目標。其中,“滿足現實需求”是指數字世界的發展應有利于回應現實世界的發展問題和訴求;“遵循現實規則”是指數字世界的規范發展應以現實世界的規則體系為基礎;“符合現實利益”是指數字世界的發展應服務于現實世界的發展利益。做好元宇宙的倫理治理,可以為數字技術在經濟社會重要行業領域中的規?；瘧锰峁┯行ПＵ稀?/p>
踐行“以實為本”,實現數字世界發展三大“現實”目標
作為人工智能治理的深度實踐者,商湯已經將“以實為本”的數字世界發展觀,貫徹到了自身的實踐發展當中,通過技術創新和實體產業的結合,實現“滿足現實需求”、“遵循現實規則”、“符合現實利益”的目標,推動數字經濟與實體經濟的融合發展。
圍繞“滿足現實需求”的目標,商湯致力于通過多套技術工具,在保證數據隱私安全的前提下,更好地實現數據要素的流通,滿足生產、消費等發展需求。商湯開發的敏感信息脫敏技術工具,不僅可對生物特征數據、自動駕駛等各類業務的敏感數據進行脫敏,還具備敏感信息檢測、可還原脫敏等功能。商湯還建立了覆蓋產品研發全流程的個人信息保護評估審核機制,確保產品和服務達到嚴格的隱私安全保護水平。
為促進數據要素的流通利用,商湯創新提出了數據沙箱,可實現數據不搬家,數據可用不可見,在確保數據隱私安全的基礎上實現數據價值轉化。面向系統安全需求,商湯自研的模型體檢工具能夠面向活體識別、圖像分類、目標檢測等商業化應用開展對抗安全檢測、魯棒安全檢測、后門安全檢測,不僅能夠支持多種任務類型,還能夠開箱即用,提供一鍵式測評反饋,目前已應用于商湯的大量商業化模型的檢測。
圍繞“遵循現實規則”的目標,商湯自研了魯棒數字水印技術,基于深度學習對數字內容實施加密數字水印,實現版權保護、內容溯源,促進元宇宙數字內容的健康有序發展。商湯還將自研的一系列技術工具賦能創作版權審查、創作風格審查、特定信息內容審查等不同類型的數字內容審查工作,促進數字內容創作的合法合規,同時還建立了覆蓋產品全生命周期的倫理審查體系,確保技術創新和產品應用的每個環節都合乎倫理。
圍繞“符合現實利益”的目標,商湯已開發并落地了多種AI應用,讓技術的發展符合包括人類、經濟、社會、環境的可持續發展利益。諸如疫情期間的AI基礎教育“停課不停學”解決方案,AI+AR電網運維巡檢等,都是數字技術服務人類現實利益的典型范例。
元宇宙作為AI賦能實體經濟的重要創新應用領域,勢必也將成為技術倫理治理的重要陣地。田豐院長指出,近年來,商湯積極探索人工智能倫理治理工作體系建設,并全面納入到自身的產品研發體系當中,形成從理論到實踐的倫理治理閉環。此次《元宇宙可持續發展報告》的發布,不僅是商湯首份聚焦商業應用場景的倫理治理研究報告,也是商湯AI倫理治理工作向商業場景延伸的新起點。秉承“平衡發展”的AI倫理觀,商湯將持續探索和開展更多商業領域的倫理治理實踐,全面促進智能時代的可持續發展。
