人工智能安全峰會
2023年11月07日首屆人工智能安全峰會發布《布萊奇利宣言》
首屆人工智能安全峰會于日前在英國布萊奇利園舉行，峰會發布《布萊奇利宣言》。為期兩天的峰會，美國、英國、歐盟、中國、印度等多方代表就人工智能技術快速發展帶來的風險與機遇展開了討論。
人工智能安全嗎？一直縈繞在公眾的心頭，最典型的《我，機器人》電影里的光頭還歷歷在目。人工智能是否安全就看他的信息流是不是干凈，指令信息，邏輯判斷信息的正確性。
目前的人工智能設備或者裝備沒有達到這些光頭的水平，觸發的事件的影響度還沒有那么大，但足以讓相關機構損失巨大的金錢財產。曾幾何時數據直接成了病毒，時代發展人工智能流行市面，是非曲直，人類思想道路更是需要嚴格把關，知識安全，數據安全，人工智能才能安全。人工智能的安全問題很多，今天我們專門聊聊，最基礎的“數據投毒”！
- 數據投毒事件一：
2016年曾經發生過一起真實的數據投毒事件。當年微軟發布了一款聊天機器人Tay，原本是一項有趣的實驗，旨在通過與網友對話學習人際交往技巧。然而，這個實驗在不到24小時內轉變為一場噩夢。Tay很快從一個友好、有趣的機器人變成了一個滿嘴臟話、充滿歧視和偏見的人工智能。原因是一些不良分子惡意濫用了這一機會，用不適當的言辭對Tay進行訓練，導致對話數據集被污染。最終微軟被迫緊急下線Tay，以制止它繼續學習和傳播不當內容。
- 數據投毒事件二：
來源: 網絡輿情分析師考培基地
2023年10月16日，有家長發現在科大訊飛的學習機中，一篇標題為《藺相如》作文含有詆毀偉人、扭曲歷史等違背主流價值觀的內容。有自媒體稱，這是一篇早在2015年就發布于互聯網的文章，后由第三方引入“訊飛學習機”，但是科大訊飛未能發現并刪除，直到事發前仍能在學習機文庫中搜索到的上述問題作文。
10月24日下午，科大訊飛（002230.SZ）股價跳水跌停。截至收盤，報46.7元/股，成交額超53億元，總市值蒸發約120億元。
這是兩個近期的數據投毒案例。還有“毒教材”事件也難逃同樣的謀劃操作，對人工智能的數據投毒，對人類思想的意識投毒，細思極恐，手法一致……
誠然，在數字化的世界里，數據被譽為“新的石油”，其價值不言而喻。然而，隨著機器學習模型的廣泛應用，一種新型的攻擊方式——數據投毒，正在悄然興起。數據投毒，是指有意或惡意地向數據集中引入虛假、惡意或有害的數據，利用訓練或者微調（fine-tuning）過程使得模型中毒，以操縱、損害或欺騙機器學習模型的性能和輸出結果。
通過一個實際的例子來解釋什么是數據投毒，假設我們有一個機器學習模型，這個模型的任務是區分照片中的貓和狗。我們用數千張標記有“貓”和“狗”的圖片來訓練這個模型。訓練完成后，當我們輸入一張新的圖片時，模型可以告訴我們這張照片里是貓還是狗。
現在，假設一個攻擊者想要破壞我們的模型。他開始增加一些標簽不準確的圖片到訓練集中，例如，他增加了一些實際上是貓的圖片，但是給它們標記為“狗”。這就是數據投毒。
然后，當我們再次使用這個“被投毒”的數據集訓練模型時，模型就會開始混淆，因為這些錯誤的標簽會導致模型在真實場景中的表現下降。例如，當我們輸入一張貓的照片時，模型可能會錯誤地識別為狗。這就是數據投毒的效果。
這種情況在實際的應用中可能會造成嚴重的問題。比如，在自動駕駛汽車的場景下，如果訓練數據被投毒，導致模型無法正確區分行人和非行人，那么可能會造成嚴重的安全問題。或者在金融防欺詐系統中，如果模型被訓練成將欺詐行為誤判為正常行為，那么就會導致大量的經濟損失。
因此，確保訓練數據的質量和準確性，以及防止數據投毒攻擊，對于任何使用機器學習的系統來說都是非常重要的。
數據投毒的根源可以追溯到人類對數據和機器學習模型的依賴。在許多領域，如醫療、金融和安全，機器學習模型被用來處理重要的任務，如疾病診斷、股票交易和威脅檢測。然而，這些模型的設計和訓練往往受到數據質量的影響。如果數據被污染，那么模型的結果就可能受到誤導。
惡意的數據投毒可以造成嚴重的后果。例如，如果一個醫療診斷模型被投毒，那么可能會錯誤地診斷出本來健康的病人，導致不必要的治療甚至死亡。如果一個金融模型被投毒，可能會導致錯誤的投資決策，造成巨大的經濟損失。因此，數據投毒已經成為一個不可忽視的安全問題。
然而，數據投毒并非無解。通過加強數據管理，提高數據質量，以及使用更為復雜的模型和算法，可以有效地防止和減輕數據投毒攻擊。同時，我們也需要提高公眾對數據投毒的認識，讓更多的人了解到這種攻擊的嚴重性，從而共同抵御這種新型的網絡攻擊。
總的來說，數據投毒是一種新型的、復雜的網絡攻擊方式，其影響深遠且難以預防。然而，只要我們提高了警惕，采取了有效的措施，就可以有效地防止和減輕這種攻擊帶來的危害。在未來的日子里，我們需要更加深入地研究和探討如何防止和應對數據投毒攻擊，以確保我們的數字世界能夠更加安全、公正、公平。
