“人工智能在賦能人類社會加快發展的同時,正逐漸衍生出可危及國家安全和人類安全的新形態重大風險,其可能風險包括人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控。”中央網信辦專家咨詢委員會顧問、國家集成電路產業發展咨詢委員會委員、國家三網融合專家組成員沈昌祥院士在2022大華股份“云聯萬物數智未來”高峰論壇上基于人工智能安全如是說。
沈昌祥院士
此次高峰論壇,由大華股份主辦,浙江省城市治理研究中心協辦,中國智慧交通管理產業聯盟作為指導單位,致力于探討數字化、人工智能、物聯網等相關議題。參與論壇話題討論的均為業內資深專家,沈昌祥院士便是其中之一。沈院士以“用主動免疫可信計算筑牢人工智能安全基石”為主題,并圍繞智能社會安全體系、可信計算3.0和等保2.0等內容進行展開。
防御智能社會風險,構筑主動免疫保障體系
沈昌祥院士首先解釋了智能社會的概念。在他看來,智能社會是基于泛在網絡交聯,將物理、民生、數字和網絡四維空間深度融合,并提供智能處理事務的資源和能力,實現高度智能化、安全可信、按需服務的社會。但沈院士擔憂的是,人工智能在賦能人類社會加快發展的同時,正逐漸衍生出可危及國家安全和人類安全的新形態重大風險。因此,必須予以高度重視,并切實找到有效的解決方案。
沈院士以“勒索病毒”為例,表明智能社會所遭遇到的攻擊無處不在。2017年5月12日爆發的“WannaCry”的勒索病毒,將數據加密,變得不可用,借機勒索錢財。病毒席卷近150個國家,教育、交通、醫療、能源網絡幾乎癱瘓。另外,2018年8月和2021年5月,臺積電和美國最大的成品油管道運營商Colonial Pipeline分別遭到勒索病毒入侵,造成工作停擺,以及數十億美元的損失。
沈院士指出,網絡天生的脆弱性以及認知科學的局限性,讓設計IT系統無法窮盡所有邏輯組合,必定存在大量未經處理的邏輯缺陷。因此,利用漏洞進行威脅攻擊是網絡安全風險的永遠命題。面對這樣的風險,傳統“封堵查殺”補丁難以應對未知惡意攻擊。因此,使用安全可信網絡產品和服務,構建主動免疫防護的保障體系成為最佳選擇。
六層防護架構,立體化維護系統安全
在沈院士的保障系統中,主要包括六個維度,分別是“一種”新模式、“二重”體系結構、“三重”防護框架、“四要素”可信動態訪問控制、“五環節”全程管控以及“六不”防護效果。
“一種”新模式,即主動免疫可信計算,是一種運算同時進行安全防護的新計算模式,以密碼為基因抗體實施身份識別、狀態度量、保密存儲等功能,及時識別“自己”和“非己”成分,相當于為網絡信息系統培育了免疫能力。與傳統的殺病毒、防火墻、入侵檢測的防護思路相比,新模式具備更強的保護力。
“二重”體系結構和“三重”防護框架,具體為實行安全可信策略管控,打造計算部件和防護部件為核心的二重體系結構的可信計算節點,建立免疫“反腐敗”子系統,并通過可信安全管理中心支持下的主動免疫三重防護框架,即可信計算環境、可信邊界和可信網絡通信,最終到達用戶終端。
而“四要素”可信動態訪問控制,表現為對人的操作訪問策略四要素(主體、客體、操作、環境)進行動態可信度量、識別和控制,糾正了傳統無計算環境要素的訪問控制策略模型只基于授權標識屬性進行操作,而不作可信驗證,難防篡改的安全缺陷。
關于“五環節”全程管控和“六不”防護效果,則要求技管并重,按照網絡安全法、密碼法、等級保護制度、關鍵信息基礎設施保護制度的要求,全程治理,確保體系結構、資源配置、操作行為、數據存儲、策略管理可信。實現讓攻擊者進不去、非授權者重要信息拿不到、竊取保密信息看不懂、系統和信息改不了、系統工作癱不成和攻擊行為賴不掉的六大防護效果。
以可信計算3.0,打造新型安全可信產業空間
在強調構建保障體系的同時,沈院士進一步以可信計算3.0打造安全可信新型產業空間的策略。要實現這一目標,搶占核心技術制高點,擺脫受制于人是關鍵。沈院士引述《國家中長期科學技術發展(2006-2020年)》文件,提出以發展高可信網絡為重點,開發網絡安全技術及相關產品,建立網絡安全技術保障體系。根據《文件》內容,可信計算廣泛應用于國家重要信息系統,如:增值稅防偽、彩票防偽、二代居民身份證安全系統、國家電網電力數字化調度系統安全防護建設,已成為國家法律、戰略、等級保護制度,要求進行推廣應用。
沈院士認為,在構建新型網絡安全體系的過程中,一定要科學嚴謹分析研究,堅持自主創新,掌握核心競爭力,把握主動優勢,并以可信計算功能的國產CPU、嵌入式可信芯片及安全卡和具備可信計算3.0技術的設備為基礎,建立起完備的可信計算3.0產品鏈,開拓新型產業空間。
基于等保2.0,筑牢智能化基礎設施安全防御體系
在沈院士的論述中,等保2.0同樣發揮著不可忽視的價值。等保2.0作為新標準,把云計算、移動互聯網、物聯網和工控等采用可信計算3.0作為核心要求,以此筑牢網絡安全防線。同時,需建立安全可信人工智能、計算處理服務資源安全可信和系統管理安全可信綜合性防護體系。
最后,沈院士不忘強調物聯網的安全框架。物聯網的安全框架基于可信安全管理中心,通過打造可信計算環境、可信通訊網絡和感知計算環境,形成系統、安全和審計一體化的安全體系,進而全面保障智能物聯網安全。
沈昌祥院士以其豐富的行業知識,從人工智能的風險、人工智能的防護以及我國智能安全系統體系的建設等方面作為切口,對觀點進行了詳細闡釋。通過沈院士的講解,相信在智能社會的安全體系建設中將投入更多精力。畢竟,這不僅意味著對個人的保護,也是讓中國智能社會能夠長遠穩步發展的堅定保障。
