作者：Veronica Combs翻譯：林鶴沖校對：wwl
本文約1600字，建議閱讀6分鐘人工智能和機器學習如何逃避網絡安全的防護并且完成更快更有效的破壞。
標簽：cybersecurity
專家告誡：攻擊者可以用機器學習來更快地破解密碼，以及建立會藏匿的惡意軟件。
圖片：iStockphoto/metamorworks
三個網絡安全專家在NCSA和納斯達克網絡安全峰會上解釋了人工智能和機器學習如何逃避網絡安全的防護并且完成更快更有效的破壞。
十月六日星期二，國家網絡安全聯盟的執行董事Kelvin Coleman，在以 “可用的安全：影響和丈量人類行為的改變”為主題的論壇中對這一部分進行了探討。
國立標準與技術學院，員工信息技術實驗室的首席Elham Tabassi，是這次“網絡安全中的人工智能和機器學習：善、惡、丑”講座中的一位嘉賓。
查看:
Security threats on the horizon: What IT pro's need to know (free PDF) (TechRepublic)
“攻擊者能使用AI來躲避檢查，藏在不能被找到的地方，并且自動開啟反偵查模式。”Tabassi說。
Digital Guardian的數字首席信息安全官Tim Bandos認為，網絡安全總是需要借助人類思維來建立更強的防御措施來抵抗攻擊。
“AI 是助手，安全分析師和威脅偵查官是超級英雄”他說。
以下是3種AI和ML被用于網絡安全攻擊中的方式。
數據中毒
Tabsassi說，攻擊者有時會瞄準用來訓練機器學習模型的數據。數據中毒是通過操縱一個訓練集來控制模型的預測能力，使模型做出錯誤的預測，比如標記垃圾郵件為安全內容。
數據中毒有兩種類型：攻擊ML算法可用性和攻擊算法的完整性。研究表明，訓練集中3%的數據遭遇數據中毒會導致預測準確率下降11%。
通過后門攻擊，一個入侵者能夠在模型的設計者不知情的情況下，在算法中添加入參。攻擊者用這個后門使得ML系統錯誤地將特定的可能攜帶病毒的字符串識別為良性。
Tabsssi說毒害數據的方法能夠從一個模型轉移到另一個模型。
“數據是機器學習的血液和燃料, 用來訓練模型的數據應該被予以同模型一樣的重視。”她說，“用戶信任度是被模型和訓練的質量以及其中的數據所影響的。”
Tabassi 說業界需要制定一個標準和規則來保證數據的質量，NIST已經在制定國家規范以約束AI的可靠性，規范包含高階的規則和強調準確性、安全性、偏差性、隱私性和可解釋性的技術要求。
查看 :
Social engineering: A cheat sheet for business professionals (free PDF) (TechRepublic)
生成對抗網絡
生成對抗網絡（GANs）是由兩個相互對抗的AI組成 -- 一個模擬原有的內容，另一個負責挑出錯誤。通過二者的對抗，他們共同創立出與原先高度擬合的內容。
Nvidia的研究者訓練了一個特殊的AI模型來重建吃豆人游戲。（https://www.zdnet.com/article/nvidia-researchers-use-ai-to-recreate-pac-man-without-a-game-engine/）這個模型只是簡單地觀察了幾個小時的游戲，沒有借助游戲引擎，Stephanie Condon在ZDNet中解釋道。
Bandos說攻擊者使用GANs來模擬一般的數據傳輸規律，來將分散系統的注意力，并且找到能使敏感數據迅速撤離的方法。
“因為有了這些能力，他們可以在30-40分鐘內完成進出。”他說，“一旦攻擊者開始使用AI和機器學習，他們就能自動運行這些任務了。”
GANs還可以用于破解密碼，躲避殺毒軟件和欺騙面部識別，Thomas Klimek在文章“生成對抗網絡：他們是什么，為什么我們要害怕。”
（https://www.cs.tufts.edu/comp/116/archive/fall2018/tklimek.pdf）中如是描述。一個用機器學習建立的密碼猜測對抗網絡（PassGAN system），使用行業標準密碼清單上訓練模型，最終該網絡能夠猜測到比其他幾個在同樣數據集上訓練的工具更多的密碼。除了生成數據，GANs能創造可以躲避基于機器學習檢測的惡意軟件。
Bandos認為用于網絡安全的AI算法不得不通過頻繁地重復訓練才能識別新的攻擊。
“惡意軟件在進化，我們也要一起進化。”他說。
他用“混淆”作為例子，比如一個惡意軟件的大部分是由合規的代碼組成的（所謂用合法代碼來混淆/偽裝），一個ML算法必須要能夠識別其中的惡意代碼。
僵尸程序
VMware Carbon Black的高級網絡安全策略師Greg Foss講道，如果AI算法被用于做決策，那么他們也能被操控做出錯誤的決策。
“如果攻擊者理解這些模型，他們就能夠用他們做壞事。”他說。
Foss說最近的一次對加密貨幣交易系統的攻擊就是通過僵尸程序執行的。
“攻擊者進入系統并且發現計算機程序如何進行交易，然后他們用這個程序去迷惑算法。”他說，“這個也有很多其他應用。”
Foss補充說這個技術不是新的，但是現在這些算法比以更智能了，這大大提高了算法做出一個壞決策的風險。
可閱覽更多相關文章
1.How to become a cybersecurity pro: A cheat sheet (TechRepublic)
2.Social engineering: A cheat sheet for business professionals (free PDF) (TechRepublic)
3.Shadow IT policy (TechRepublic Premium)
4.Online security 101: Tips for protecting your privacy from hackers and spies (ZDNet)
5.All the VPN terms you need to know (CNET)
6.Cybersecurity and cyberwar: More must-read coverage (TechRepublic on Flipboard)
原文標題：
3 ways criminals use artificial intelligence in cybersecurity attacks
原文鏈接：
https://www.techrepublic.com/article/3-ways-criminals-use-artificial-intelligence-in-cybersecurity-attacks/
