11月7日，以“數字驅動發展，安全守護未來”為主題，“天府杯”2020國際網絡安全大賽暨2020天府國際網絡安全高峰論壇在成都舉行。作為聯合主辦方之一，這是百度安全連續第三年參與這一中西部最重要的網絡安全產業大會，并承辦AI安全專題論壇。
會上，百度副總裁馬杰與來自學術界、產業界及監管部門的眾多專家學者、行業領袖們一起，共同探討了在“新基建”戰略大背景下網絡安全的新機遇和新挑戰，并分享了在各自領域、尤其是在AI安全領域的最新研究成果。
百度副總裁 馬杰
毫無疑問，安全是2020年的關鍵詞，其不僅關乎于虛擬的網絡空間，也關系到了國家、產業、設備，甚至是我們每一個個體的健康。而從某種角度上講，有關AI所帶來的安全命題同樣涉及到了線上線下的方方面面。
“AI安全是整個新基建中非常重要的一個基石，當中國的AI技術與世界領先水平跑到了同一起跑線上時，我們AI安全的研究也需要跟上這個速度。”在馬杰看來，AI時代我們不僅需要面對來自傳統安全領域頑疾的集中爆發，還需積極應對AI本身出現的安全性問題。“這已經超乎了我們對于安全邊界與框架的傳統認知范疇，而網絡安全人的責任則在于，通過長期的研究與實踐，能夠跑到這些威脅造成重大危害之前。”
以“有AI，更安全”為理念，百度在AI安全領域的探索始終處于行業前沿。在今年9月舉行的百度世界大會上，由Security、Safety和Privacy出發，馬杰首次對外揭示了百度在AI安全領域探索與實踐的三大全新維度。而它們也分別指向了強對抗環境下的安全威脅、非對抗條件下自然環境所產生的真實威脅及數據安全與隱私保護三大AI安全研究方向，并圍繞算力、算法和數據，覆蓋云、管、端等各個階段。對于當前的AI安全研究來說，其不僅將為AI模型魯棒性、AI模型保護及數據采集、處理、流通和可信計算等領域的安全技術應用提供深具前瞻性的思考角度，也將為行業企業開發更具專業性的AI安全解決方案帶來方向性的規劃指引。
事實上，以AI安全三大維度為基礎，百度領先的AI安全能力已經投入到了包括AI模型魯棒性體系化評估、AI模型安全加固、全網惡意網頁監測、內容安全生態治理及全數據生命周期安全防護在內的一系列“實戰”之中。而作為百度大腦的核心架構組成，上述AI安全能力也已完成了對百度整個AI技術研發流程的全面覆蓋，并為百度智能云構建智能一體化的云上安全體系提供支撐。
當然，新基建時代AI安全生態的打造也需要來自產學研各界同仁的共同協力。在百度安全部副總監沈鵬飛的主持下，國務院網絡安全學科評議組成員、復旦大學計算機學院科研副院長楊珉，四川師范大學網絡與通信技術研究所所長李煥洲，西南交通大學系統可信性自動驗證國家工程實驗室常務副主任李志輝，德國CISPA亥姆霍茲信息安全中心張陽，成都無糖技術合伙人李維，與百度安全部產品負責人韓祖利一道，在而后舉行的AI安全專題論壇上，共同分享了各自在AI安全領域最新研究進展。
百度安全部副總監 沈鵬飛
眾所周知，新基建的大規模展開將催生大量AI技術的創新應用，而作為AI時代最重要的生產要素之一，數據的安全性問題正在成為當下首當其沖的安全挑戰。由此，韓祖利首先介紹了百度在數據安全與隱私保護方面的實踐——以隱私合規檢測、差分隱私、AI自動脫敏、聯邦計算、可信計算等技術為代表，百度將AI安全能力貫穿于采集、處理、流通、計算等整個數據生命周期，在更好地保護企業機密和個人隱私的同時，也為百億級大規模數據的安全聯合計算創造了可能。進一步釋放數據價值，擴大AI時代大規模數據協作的信任邊界。
百度安全部產品負責人 韓祖利
而在保障數據安全的基礎之上，軟硬一體化趨勢下AI系統的安全問題同樣不可忽視。以分布式智能系統的安全性為核心，楊珉教授在演講中探討了開放網絡中分布式學習系統內的“拜占庭攻防”問題，并通過GAA、即基于梯度聚合代理的魯棒分布式學習，強化學習調整評估策略，為有效防御這類攻擊提供了應對方案。
國務院網絡安全學科評議組成員、復旦大學計算機學院科研副院長 楊珉
聚焦于隱蔽通信領域，李煥洲教授帶來了將其與深度學習模型InfoGAN有機結合的創新性研究。在隱蔽載體遷移、多種隱蔽機制組合嵌套、隱蔽域多樣化的背景下，二者的聯動可在保持一定傳輸效率的同時，獲得相較于傳統隱蔽通信工具更強的隱蔽能力，兼具理論創新前景和工程可行性。
四川師范大學網絡與通信技術研究所所長 李煥洲
作為AI安全技術矩陣的另一大分支，李志輝教授將重點放在了以自動推理為核心的可信性研究領域。這一技術的應用對于源碼漏洞挖掘、協議漏洞挖掘、需求漏洞挖掘、網絡漏洞檢測與智能管控等方面的提升正發揮著越來越重要的作用，而基于邏輯推理的安全可信性研究，也是解決AI安全問題的一個優選項，尤其是基于推理的形式化驗證。
西南交通大學系統可信性自動驗證國家工程實驗室常務副主任 李志輝
受到海外疫情交通管控的影響，來自德國CISPA的張陽博士通過遠程視頻的方式與會上的國內嘉賓分享了其在機器學習與隱私方面的研究，特別是利用機器學習模型應對隱私問題及關于機器學習模型本身的隱私隱患。而他也介紹了歐洲在AI安全方面的前沿進展，例如在常見的對抗樣本攻擊之外，針對GNN圖神經網絡的攻擊所導致的隱私泄露問題。
CISPA亥姆霍茲安全研究中心 張陽
相較學術界對于專業領域的深入研究，來自產業界的安全專家們則將關注點更多地聚焦在了AI安全對現時安全挑戰的賦能方面。會上，成都無糖技術合伙人李維介紹了電信詐騙、網站詐騙等網絡犯罪案例中的人機對抗行為及當前業界取得的一系列戰果；而螞蟻集團對抗智能負責人薛峰則以未知風險快速準確識別、風險水位感知、實時檢測能力為下一代安全技術的三大模塊，落點于今后對抗智能技術體系的建設。
成都無糖技術合伙人 李維
螞蟻集團對抗智能負責人 薛峰
隨著我國逐步進入經濟智能化的深度發展階段，以人工智能為代表的新技術、新應用正在迸發出越來越大的能量。而在當下新舊安全問題不斷疊加的趨勢下，AI安全防護技術的持續升級也正在為我們提供新的工具去更有效地應對這些安全挑戰，而其自身也已成為AI體系構建過程中不可或缺的重要一環。
未來，以本次“天府杯”為契機，百度將繼續攜手各界合作伙伴，以開放的代碼和開放的技術推動AI安全開放生態的建設。支持監管部門，護航“新基建”，為打造更安全的AI時代貢獻智慧，加速“智能經濟”時代的到來。
