AI會讓世界變得更好嗎?
這是11月16日，百度安全總經理馬杰在天府2018國際網絡安全高峰論壇發表主題演講時開場即拋出的問題。
對于這個問題，馬杰給出的答案是，“一定會!”
以AI思維應對安全新挑戰
基于大數據和云計算，AI正在驅動整個人類社會在組織、制度和經濟上的全方位變革。但是，當我們繪制AI時代的宏偉藍圖，將思維模式從Think Mobile向Think AI轉向時，也不可避免的迎來了全新的安全挑戰。
在馬杰看來，AI時代，一個很典型的特點便是軟硬結合。大到智能汽車，小到智能音箱，幾乎已經涉及到了終端設備制造商、第三方應用開發商、解決方案提供商、系統開發商、芯片廠商及云端服務商等全產業鏈環節。隨之而來的安全威脅，也不再僅限于傳統意義上的高危范疇，系統漏洞、設備劫持、云端風險、數據安全與隱私泄露，無時無刻不在威脅著你我的智能生活。
AI時代AI思維下的另一特征，是算法正在推動傳統行業轉型的進程，然而算法自己有時也會“犯錯”。
如上圖所示，馬杰現場演示了百度安全關于交通安全標識AI識別的最新研究成果——同樣是兩個“停”的路標，但AI卻將其中一個識別為限速60公里，即可以通行。“問題在于，圖片在我們肉眼不可見的情況下被動了手腳，它不會影響到我們的判斷，但會對AI產生嚴重的干擾。
“人工智能還是一個幾歲小朋友的水平，只是在特定領域比較強，像這樣復雜被干擾的圖片是容易引起歧義的，這種研究如果不是我們做在前面，而是黑客做在前面，容易產生非常危險的事情。”
不過，問題的存在并不意味AI的時代不安全。相反，正如百度安全所堅持的理念，有AI，更安全。“我們需要讓AI變得更安全，我們也需要通過AI讓我們各種產品變得更安全。”而以技術賦能、標準驅動，生態共建為支點，百度安全也構建了一系列開放生態矩陣，由下至上覆蓋基礎層、平臺層和生態層，以實現多層面的開放協作，共同應對AI時代所面臨的全新且多維度的安全挑戰，實現產業共贏。
“七種武器”助力開放共建
在基礎層，百度安全今年推出了BASS下一代AI安全技術棧，將首創的七大技術全面開源匯成“七種武器”，全面解決云管端以及大數據和算法層面的一系列安全風險問題，助力AI生態。在演講中，馬杰系統地介紹了“七種武器”的來龍去脈和實際應用。
在終端層面，備受行業認可的首先是OASES KARMA系統自適應熱修復，其目標是為了解決Android生態高度碎片化所帶來的安全隱患。
眾所周知，頻繁迭代的Android系統對于舊版本的支持是有限的，大量廠商也缺乏精力和能力主動進行更新，這便造成大量已知的歷史安全漏洞沒有被修復，很容易成為黑客攻擊的對象。“我們幫助終端廠商在系統層面直接解決掉這些問題，”馬杰表示，“把漏洞用‘熱補丁’補上。”換句話說，KARMA可以實現系統漏洞的實時修復，在減輕廠商成本的同時，還節省了用戶時間。
作為業內首創，KARMA囊括了9項專利技術并已登陸BlackHat、USENIX等國際頂級安全會議，現已運行在覆蓋多個行業近億臺終端設備中。
同在終端層面的還有MesaLock Linux內存安全操作系統，在馬杰看來，“現在大部分高權限的安全漏洞，有非常高的比例是通過內存的問題導致的，這是安全行業的頑疾。”而MesaLock Linux則通過大量的審計工作和應用層系統內存安全語言重構，極大降低了整個系統的攻擊面，并且使得剩余的攻擊面可審計、可收斂。在保留Linux硬件兼容性的前提下，實質性地提升Linux生態的安全性。
在管道層面，MesaLink TLS提供了一個內存安全的下一代安全通信庫。通過對整個加密通訊庫進行內存安全語言的重構，MesaLink TLS實現了對Heartbleed等高危漏洞的免疫，同時兼容最新的TLS 1.3版本，使整個通訊效率有大幅提升。
在云端層面，百度安全則推出了OpenRASP下一代云端安全防護系統、HugeGraph大規模圖數據庫、AdvBox對抗樣本工具箱和MesaTEE下一代可信安全計算服務。
OpenRASP將新興的RASP安全防護技術普及化，掛鉤敏感函數，實現對數據庫全面監控和保護，有效抵御新生漏洞。而作為易用、高效、通用的分析型圖數據庫，HugeGraph提供毫秒級關聯查詢能力，可廣泛應用于欺詐檢測、關聯分析、知識圖譜和數據治理等場景。
特別值得一提的是AdvBox對抗樣本工具箱，其是在機器學習層面用于自動化攻擊AI模型的開源工具。在演講中，馬杰以“人臉識別”為例，講解了“訓練”對于AI提升識別能力的重要性——在惡意的篡改下，別人的照片在AI看來有可能比你更像你。
這便是AdvBox對抗樣本工具箱的意義所在，“我們把這個能力做成開源的工具分享給大家，不僅支持各家的深度學習平臺，也支持多個主要的深度學習訓練平臺。讓我們的工程師、我們的科學家可以自己生成更多的對抗樣本，去分析學習和研究如何讓我們的算法變得更強大，而不至于被這種東西所欺騙。”馬杰表示，而AdvBox對抗樣本工具箱的源代碼向整個社區開放，百度安全將與社區共同努力，構建安全的AI生態環境。
當AI時代網絡安全防御體系逐漸完善，甚至到密不透風，其也帶來了一個現實的矛盾——在用數據給用戶創造價值的同時，如何實現隱私保護并確保合規?百度安全給出的答案是MesaTEE，下一代可信安全計算服務。
基于百度HMS高級內存安全技術和英特爾SGX硬件防護，MesaTEE可以讓云上數據得到芯片級的安全保障，數據可在放到其平臺中進行綜合計算。“我們互相既看不見對方具體的數據，又能用到對方數據的能力，從而實現數據保護與數據價值實現的兼顧和平衡。”
為行業也為全社會
基于以“七種武器”為代表的技術能力和在安全領域18年最佳實踐的總結與提煉積累，百度安全在平臺層為行業提供了一系列完整的開放解決方案。
首先，是智能終端。
即便是現在，我們身邊也都已經有了不少智能終端設備。而這些設備一旦被劫持、篡改，將產生非常嚴重的危害——數據的泄露、支付的風險，甚至是對家庭財產和人身安全的損害。
整合設備端、管道和云端的技術能力，百度安全智能終端安全解決方案為行業提供了一個可靠而便捷的安全保障。截止目前，該方案已超過30家合作伙伴，囊括中外學界、業界的重要院校和企業，覆蓋包括智能手機、智能電視、智能音箱、智能家居、智能車載和服務器等眾多領域在內的超過1億部設備。
第二，是智能車機。
當下，汽車產業已全面進入智能互聯時代，作為中樞，智能車機承擔著從娛樂、社交、支付等交互的應用到人類復雜語言指令的識別，再到對各類數據的采集、分析和自我學習等諸多至關重要的功能。但是，復雜的生態系統也對應帶來了巨大的安全挑戰，且這一挑戰不僅涉及到你我個人的隱私和財產安全，也延伸到人身和公共利益層面。
百度安全聯合百度Apollo信息安全實驗室推出的智能車機安全解決方案正是為此而來，通過全面檢測、縱深防御、安全可視、免召回修復四大特色能力，幫助廠商有效應對智能車機面臨的各類安全風險，全面確保云、內外部通信、操作系統、應用、硬件、數據和手機終端安全，提供4S全生命周期的安全保障。
第三，則來自社會治理層面。
利用開源的HugeGraph大規模圖數據庫及所掌握的部分非法人員信息數據，包括不久前在公安機關“濾網行動”中配合偵破國內首例手機訪客營銷黑產在內，百度安全迄今已協助破獲全國多起電信詐騙、DDoS黑產、撞庫黑產、偽基站黑產、流量劫持黑產、用戶隱私竊取黑產等重大案件。全方位實現從警務數據整合治理到分析挖掘，助力智慧公安新業態。
我們都是藍軍
AI時代，AI思維，從與國內外頂尖高校建立聯合實驗室開展前沿技術研究，到借助人工智能技術助力智慧警務;從連續五年支持中國安全戰隊走向全球舞臺，到將具有26年歷史的國際頂級極客大賽DEF CON首度引入中國，百度安全始終堅信開放、合作的力量，也在努力踐行自己的社會責任。
“安全不是任何一家公司、一個社區、一個生態能夠獨立解決的事情，需要以更開放的態度，更廣泛的合作與共享應對，在開放包容、多元互鑒中尋求共贏。”在馬杰看來，“萬物皆變，歸根結底，人是最重要的因素。我們要做的，是集結所有安全圈的力量，共同為安全生態建設貢獻力量，讓這個世界變得更加美好，讓中國的網絡安全生態更強更繁榮。”
當我們再次回看開篇時的那個問題，AI會讓世界變得更好嗎?你的答案會是什么?也許你會變得更有自信，YES，AI DO!YES，WE DO!因為我們是這個世界的藍軍!
