7月21日，2022北京網絡安全大會技術峰會上，百度副總裁馬杰詳細介紹了在AI安全領域的一些實踐和研究，分享了他在元宇宙與AI結合方面的新思考。
馬杰表示，伴隨數字經濟智能經濟的發展，以及國際政治經濟格局的變化，在全球范圍內網絡安全形勢正在發生一系列深刻的變革，其中以AI為代表的新技術、新應用和新場景快速崛起。一方面，AI與實體經濟進一步融合，帶給社會很多的便利，而另一方面，AI也刷新了對網絡安全的認知、重構了原有的網絡安全體系。多方協同共治，已成為共識。
如何構建一個更為安全的智能時代？馬杰提到，兩年前百度提出了Security、Safety、Privacy的AI安全三大研究維度，并以此為基礎，圍繞算力算法和數據，進一步把AI安全能力，覆蓋到了各種應用場景，由此構建起了一整套體系化的安全框架。例如AI自主框架安全模型攻擊檢測、數據安全能力以及有隱私保護的機器學習能力等。
面對新變化與新技術，馬杰認為，對于安全來說，最大的挑戰永遠不是該如何去解決問題，而是如何才能更快的更準確的發現問題。相比較之下，人的行為環境變化很大，真實世界中有太多風險無法預判，因此想要窮盡所有的可能不現實，因此提前應對潛在的安全問題成為了每一個安全人必須考慮的問題。
近期，百度在嘗試有關自動駕駛安全研究項目——鐵馬冰河，此項目是一個聚焦于沉浸式高擬真場景，富含AI對抗的元宇宙化安全測試平臺，在這個平臺上我們構建了大量高擬真的測試場景去捕捉自動駕駛產品感知環節的漏洞，將Fuzzing模糊測試的理念與元宇宙相結合，并進行視覺魯棒性Al安全對抗性的指標評測，通過虛實結合的仿真測試為自動駕駛安全保駕護航。
目前項目已經可以支持三個方向的自動駕駛安全測評方案，并由此構建了一個從整車在環、硬件在環，再到軟件在環的全鏈條測試驗證體系。
他分享到，百度為應對用AI、用云、用元宇宙等的安全問題，構建出了一個數字孿生世界，在平行空間內測試、用最大限度去發現想不到和想得到的安全隱患。
“國產元宇宙產品希壤，則是百度打造出的平行于現實世界的第二時空。”馬杰分享到，今年6月，鐵馬冰河已上線希壤。未來，希壤將不僅創造出近乎仿真的虛擬環境，也將打通一系列數據，并與平行的元宇宙大世界產生互動，未來，個人也將有機會作為真人NPC參加到車輛測試中。此外，在仿真環境的反復測試，也將能夠給出更多真實的測試反饋，并納入到未來鐵馬冰的設計之中。
馬杰提到，處在一個新與舊相互疊加的時代，一方面AI本身的安全性挑戰超出了傳統的安全邊界與框架的認知范疇，同時新升級的問題也在同時出現，因此，將AI與Meta等新技術的結合將為未來安全能力的研究注入新動能。與此同時，百度也在利用Fuzzing進行模糊測試，并將Fuzzing與Meta結合，以便未來挖掘出它的更大價值。
目前，百度先后多次將開源技術、平臺等捐獻給了開源基金會，希望基于這些開放的研究、開放的代碼，可以更好地與合作伙伴一起共同推動產學研各界合作，從而構建起來一個更為開放的生態，未來能夠更好地服務于國家網絡安全建設，履行企業應由的社會責任。
據了解，百度是目前全球為數不多可以提供AI芯片AI軟件架構和AI應用等全棧AI技術的企業之一。今年的第一季度百度的核心研發費用達到了51.34億元，這占到核心收入的比例已連續六個季度超過了20%，研發投入強度位居中國大型科技互聯網公司的前列。
