5月7日下午，2023西湖論劍·數字安全大會（原西湖論劍·網絡安全大會）——第十六期網絡安全創新發展高端論壇在杭州成功舉辦。中國工程院院士沈昌祥，國家信息中心黨委專職副書記、紀委書記吳文化，國家信息中心信息與網絡安全部主任楊紹亮，中國電信集團有限公司科技創新部總經理、云網基礎設施安全國家工程研究中心主任王桂榮，中國信息協會信息安全專業委員會主任葉紅，國家信息技術安全研究中心原總工程師李京春，中國電信股份有限公司研究院副院長、云網基礎設施安全國家工程研究中心常務副主任李安民，北京大學教授、博導陳鐘，中國電科首席專家董貴山，國家信息中心信息與網絡安全部博士、高級工程師王佳慧，上海第五空間信息科技研究院理事長朱易翔，網宿科技副總裁呂士表、安恒信息啟鑒實驗室主任安通鑒等出席本次論壇。
國家信息中心黨委專職副書記、紀委書記吳文化在致辭中表示，近年來，全球人工智能產業呈現蓬勃發展勢頭，已經成為新一輪科技革命和產業變革的重要驅動力量，與此同時，人工智能也顯露出了對網絡安全行業的巨大影響和應用潛力，可謂機遇與挑戰并存。對此，吳書記提出三點建議：“一是注重創新引領，搶占人工智能技術新高地；二是強化需求導向，促進人工智能高水平應用發展；三是夯實安全基礎，堅持安全可靠和創新發展并重。”
中國電信集團有限公司科技創新部總經理、云網基礎設施安全國家工程研究中心主任王桂榮在致辭中指出，人工智能引領的科技革命浪潮席卷全球，同時也引發了業界對AI安全的思考和關注，“AI for Security”、 “Security for AI”以及AI安全倫理等問題帶來了很多全新的挑戰，中國電信依托工程中心開展了一系列的創新探索，同時也呼吁業界共同努力，為促進安全可靠的人工智能應用和發展貢獻智慧和力量。
中國信息協會信息安全專業委員會主任葉紅在致辭中表示，人工智能技術的創新應用，給數字經濟、數字政府、數字社會發展帶來新機遇，但與此同時人工智能引發的數據泄露、網絡攻擊等安全風險日趨凸顯，基于此，建議加強研究，積極應對，一是健全人工智能安全制度體系，二是強化人工智能安全行業治理，三是深化人工智能核心技術攻關。
針對人工智能的安全發展，中國工程院院士沈昌祥提出了構筑安全可信人工智能新生態體系，可以概括為“123456”，即“一種”新模式、“二重”體系結構、“三重”防護框架、“四要素”可信動態訪問控制、“五環節”全程管控，“六不”防護效果，并提出利用可信計算構建主動免疫人工智能安全產業空間。
人工智能作為一種中立技術，如果被不法分子利用生成攻擊代碼，將會產生新的威脅。國家信息技術安全研究中心原總工程師李京春指出：“應對這種變化，一方面要加強人工智能支持的安全軟件、服務的研發；另一方面要落實可信計算，保障軟件供應鏈和軟件本身的安全，做到開發、安裝、運行全生命周期的安全可信。同時，對重要數據、個人敏感數據保護要再次敲響警鐘，要加大數據安全保護力度。”
云網基礎設施安全國家工程研究中心常務副主任李安民深刻分析了AI安全的特征內涵：AI安全具有“對象特殊”、“自身演進”、“目標雙重”三大特征，易引發“社會倫理”、“不可解釋性”、“信息泄露”、“風險對抗”四大風險；其次重點圍繞“大模型安全底座”、“AI安全測評平臺”分享了中國電信在AI安全領域的創新實踐；最后結合AI安全產業鏈的現狀，倡議發起AI安全多方合作，開展協同創新和應用，共同應對全新的挑戰！
對于人工智能帶來的挑戰，北京大學教授、博導陳鐘認為其已經從網絡安全、系統安全、信息安全、數據安全上升到了知識安全，再往下就是行動安全。從互聯到互信，實質是在重塑數字信任，直面這些挑戰。當前研究重點在數字化轉型當中需要什么樣的數字信任，把其中真正的規律掌握好、運用好，為建設一個美好的未來人類和經濟社會發展做出貢獻。
人工智能的誕生對數據依賴非常強，而密碼技術是數據安全的基礎。中國電科首席專家董貴山分享了人工智能的密碼應用保障體系，提出要確保人工智能數據源的安全、數據分析處理平臺安全、控制指令安全。認證和密碼安全服務要做到為人工智能和數據安全的全生命周期、控制性的安全、算法的安全、安全的應用等提供可信、可控和可管服務。
國家信息中心信息與網絡安全部博士、高級工程師王佳慧在演講中介紹了ChatGPT的前世今生，并就當前其發展面臨的難題和限制，以及開展的安全性研究進行了展開。同時王博士提出ChatGPT可能將朝著大語言模型使用工具的能力以及模型和行動相關聯兩種趨勢發展，對于企業來說可以和業務場景相結合也可以服務整體戰略，對于個人而言將和人工智能共同進化，同時Prompt能力至關重要。
上海第五空間信息科技研究院理事長朱易翔指出：“當前行業發展有兩個趨勢，一個是萬世萬物的智能化，第二個是萬事萬物的互聯。在人工智能時代，跟‘物’有關或者說智能設備有關的場景下，‘身份’十分重要，要把國密算法要應用到安全通信里面去，把新一代數字身份用到邊緣計算等場景中。”
邊緣計算的興起對網絡安全的影響十分深遠，邊緣計算的核心特點是分布式，用戶、設備的接入在全球各地。網宿科技副總裁、首席安全官呂士表認為，邊緣計算安全不僅需要全棧技術、統一管理，還需要統一平臺，以及數據驅動的方式。
安恒信息啟鑒實驗室主任安通鑒在《大模型(AI)驅動安全技術變革的思考與實踐》中分享了基于機器學習和大模型的惡意軟件檢測、加密流量威脅檢測引擎、安全防護的性能提升、基于AI和大模型的軟件供應鏈安全、基于AI的釣魚郵件檢測引擎、違規使用大模型場景檢測等六大AI賦能網絡安全應用。安恒信息在創新前沿技術的研發和投入上遠遠不止于人工智能，十大實驗室覆蓋了物聯網安全、漏洞挖掘、人工智能、威脅分析、網絡空間資產測繪、入侵分析安全檢測等多個關鍵和熱門領域。
第十六期網絡安全創新發展高端論壇作為2023西湖論劍·數字安全大會的兩場最高規格平行論壇之一，由國家信息中心主辦，國家信息中心國信衛士網絡空間安全研究院、云網基礎設施安全國家工程研究中心承辦，中國信息協會信息安全專業委員會、中國電信股份有限公司、安恒信息、上海第五空間信息科技研究院、北京國信京寧信息安全科技有限公司協辦。
