(2022年12月14日,北京) 第三屆人工智能合作與治理國際論壇在清華大學(線上)開幕,論壇聚焦構建適宜人工智能健康發展的治理體系,通過技術工具開發實現人工智能可知、可信、可控、可用等議題,匯聚了海內外AI行業各方知名代表。商湯科技副總裁、AI倫理與治理委員會主席張望作為AI治理領域的創新企業代表,受邀出席人工智能產業發展與治理專題論壇,面向國內外的專家學者發表主題演講“建設安全開放可評估的AI治理生態”,重點分享了商湯科技平衡發展的倫理觀,以及在打造負責任且可評估的人工智能方面的實踐和探索。
商湯科技副總裁、AI倫理與治理委員會主席張望出席活動并做主題演講
張望表示,人工智能的快速發展推動數字經濟進入了2.0時代,給人類社會創造了巨大發展紅利,但也帶來了數據、算法、應用等層面的倫理和安全風險。作為領先的人工智能軟件公司,商湯科技在堅持原創,推動技術創新和賦能百業的同時,也高度重視人工智能倫理治理,并于2020年1月正式成立“人工智能倫理與治理委員會”,成為業界最先組建人工智能倫理與治理委員會,并將倫理治理工作作為公司戰略級方向的科技創新企業之一。經過多年探索,商湯科技已初步建立了人工智能倫理治理體系,實現從理論到實踐、從組織到機制、從研發到產品的全生命周期的多維度閉環。
商湯AI倫理治理體系
修煉內功 實現產品全生命周期倫理閉環管理
基于委員會規范化、機制化、系統性的倫理治理實踐,商湯創新提出了平衡發展的AI倫理觀,明確了“可持續發展、技術可控、以人為本”三項原則,以及發展“負責任且可評估”的人工智能治理的愿景目標。圍繞這一目標,商湯建立了覆蓋產品全生命周期的風險控制機制、開發了一系列流程工具和技術平臺、全面開展商業化模型安全體檢、開展公司內部科技倫理宣貫、構建國際化倫理治理生態體系,全面推進人工智能倫理治理實踐。
針對人工智能領域面臨的數據、算法及應用管理風險,商湯覆蓋產品全生命周期的風險控制機制已初步形成了治理閉環。其中,在應對算法風險方面,商湯通過建立“算法定級備案管理與安全評估機制”,成立“算法安全管理工作組”,從技術局限、算法設計、軟件缺陷、數據安全、框架安全等多個維度對算法風險進行安全評估。在應對應用管理風險方面,商湯建立了“倫理風險分級分類管理機制”,設立“倫理風險審核小組”,對產品設計、開發、部署、運營的全生命周期實施分階段、分目標的分級分類管理。
商湯還開發一系列覆蓋數據治理、算法測評、模型體檢、倫理審查的流程工具和技術平臺,建立基于真實場景數據的算法測評體系。其中,在應對數據風險方面,商湯開發了統一的數據治理平臺以及規范的數據采集流程,通過自動化標注工具,減少人工接觸的數據量,在模型訓練的源頭降低人類偏見的風險,并且數據標注平臺具備訪問控制和身份驗證功能,僅能由認證的數據標注人員進行訪問。商湯還基于真實場景下數據集的算法驗證與評測,開發了“算法測評工具”,實現商業化算法的可信與可控,同時設計多元化的測評項目和指標體系對算法進行充分及全面的評測,并積極參與建立行業標準。
面向系統安全需求,商湯自研的模型體檢工具能夠面向活體識別、圖像分類、目標檢測等商業化應用,開展對抗安全檢測、魯棒安全檢測、后門安全檢測,不僅能夠支持多種任務類型,還能夠開箱即用,提供一鍵式測評反饋,目前已應用于商湯的大量商業化模型的檢測。商湯還深刻認識到發展負責任且可評估人工智能的關鍵在于在集團層面形成倫理治理的組織文化,由此建立了倫理宣貫的定期宣傳和培訓機制,每周面向全體員工發送人工智能治理相關重要動態,定期組織研討會、邀請內外部專家開展倫理治理培訓。
共創共治 構建安全、開放、可評估的AI治理生態
為促進治理標準的不斷健全和完善,商湯積極推動國際化倫理研究治理生態體系的構建。通過持續出版相關研究成果分享治理實踐,商湯希望吸收業界反饋以不斷完善治理標準。商湯還與高校、科研院所、政府機構開展常態化交流,今年攜手國際金融論壇、新加坡人工智能國際研究院等國內外機構聯合發起“亞洲科技促進可持續發展目標聯盟”(Tech4SDG),旨在將科技治理倫理研究和治理作為重要事項,與國內外專家學者集思廣益,推動AI加快數字經濟迭代和可持續發展。
本屆論壇期間,張望還受邀出席圓桌討論,進一步解讀了“平衡發展”的AI倫理觀的內涵。他表示,人工智能的治理與創新的關系類似汽車的“方向盤”和“剎車片”與“油門”的關系。AI治理不僅如同“方向盤”可以引導技術研發和產品開發走向正確的方向,同時也具備“剎車片”功能,能夠及時制止AI創新往錯誤的方向發展。而“方向盤”和“剎車片”的力度大小又需要配合“油門”的輕重緩急,動態調整,因此,AI治理需要適應技術創新的節奏變化,做到張弛有度。
隨著技術與相關應用的持續發展,全球AI倫理治理也將持續保持動態發展。針對新階段、新趨勢、新變化,商湯科技也在積極推進倫理治理從對AI自身的治理探索,延伸到對智能駕駛、元宇宙等商業場景的探索,并希望持續與高校智庫、科研院所、行業同仁,共同探討,群策群力,加快建設安全開放可評估的AI治理生態。
