近期，中國信息通信研究院（以下簡稱“中國信通院”）在 2022 可信 AI 峰會（主論壇）上公布了首批“智信計劃”成員單位，網易智企旗下數字內容風控品牌網易易盾，憑借安全合規的人工智能識別技術，入選中國信通院“智信計劃”首批成員單位。
網易易盾與中國移動、騰訊云、螞蟻集團、百度等互聯網、數字科技、通信領域的頭部企業一同入選，攜手鑄就可信的人工智能應用環境。此前不久，網易易盾還成為了中國信通院發起的人工智能可信治理系列標準參編單位，并參與中國信通院云大所倡議發起的“可信人臉應用守護計劃”。
作為業內領先的 AI 企業，網易易盾致力于推動 AI 應用的健康落地，網易易盾 AI 實驗室有著豐富的技術積累和業務落地經驗，提供涵蓋文本、圖片、視頻與音頻的多類型的內容檢測。理解圖像、文字、語音的工作交給 AI 機器算法，有效幫助人力從簡單重復的審核操作中脫離出來，全天候守護清朗的網絡空間。
為 AI 引入信賴機制
早上 8：00，上班族在鬧鐘的呼喚中醒來，打開社交軟件閱讀新鮮事，回復了一個在線帖子，在用早餐的間隙，收聽當天的天氣預報與早間新聞。在這個過程中，人工智能（AI）無處不在。內容中可能存在著各種大大小小的問題。人工智能技術像一位敬業的管家，自動化完成內容審核，不讓污染視聽的內容進入大眾的視線，用時僅需毫秒，讓用戶暢游在安全的內容生態中。
此外，AI 也藏身于語音助手、面部識別、自動駕駛等功能中，在日常的客廳、汽車和錢包中，AI 已經滲透到我們的日常生活中，潛移默化地給世界帶來巨大的變化。很顯然，隨著人工智能變得越來越普遍，AI 的失控將置人類于危險之中，可信人工智能建設必須放在重要位置。
當前，AI 仍舊存在種族歧視與偏見等現象，相關問題層出不窮。此前，在谷歌搜索中輸入典型的黑人名字會推薦逮捕記錄查詢的廣告，谷歌相冊將美籍非洲裔黑人的照片錯誤定位為大猩猩。究其原因在于 AI 訓練依賴于數據，一旦數據類型過于集中，將會導致社會偏見的長期存在。
此外，網絡犯罪瘋子將目光聚焦于破壞人工智能，給予致命性的打擊，落入別有用心的人手中。黑客突破人臉系統轉走大量資金，掌控網絡推薦系統向大眾推送影響判斷的文章。人工智能算法從設計、訓練到使用均面臨可信賴性問題。
圖 | 歐盟對可信 AI 概念的要求
鑒于 AI 決策對人類的影響，網易易盾以可信為基石，從公平性、透明性、安全性、隱私保護等多個方面評估 AI 系統的風險，將人工智能在內容審核過程中的獨特危害降至最低。
如果在對 AI 系統進行訓練時，沒有針對性的考慮與設計，可能會讓偏見在“內容風控決策”時發揮作用。
易盾制定框架來解決這個類型的問題，從預處理、模型訓練、后處理這三個方面出發，提高模型的公平性。預處理方面，通過重采樣等方式對數據進行清洗、從而降低數據中存在的偏差。模型訓練方面，考慮模型公平性要求，增加損失項或者正則項來保證提升模型的公平性。綜合策略方面，考慮決策偏差的特點，調整后處理方式減輕模型的決策偏差。
AI 黑盒如何得出內容風控的結論和建議，審核的可預性是大眾信任計算機做出“內容風控決策”的關鍵。
易盾在算法模型訓練過程中通過“可視化機制評估”來解釋模型的中間狀態，盡可能拉近模型和人之間的感知差距，能做什么和不能做什么，使得模型輸出可接受的結果。
針對 AI 的網絡攻擊可能肆意篡改“內容風控決策”，如控制仇恨言論檢測系統以發布大量危言聳聽的話術。
易盾結合關聯圖網絡、行為模型、用戶屬性等其他技術，進行全方位診斷和分析，提升整體服務的可信程度。即便單一的算法遭到攻擊，其他技術也能及時補上，令結果更加穩定可靠。
AI 致力于內容風控
2017 年，大量針對兒童的粗制濫造的視頻在視頻分享網站 YouTube 上流傳，內容綁架迪士尼角色做出粗俗行為，堂而皇之采用純真的童謠混搭，描繪性與暴力、淫穢語言、酒精和藥物濫用。在上傳數月之后，上述內容才被發現與刪除。UGC 內容變得血腥，令人震驚與不安。
由于涉及黑產的經濟利益，內容安全是一個充滿對抗和升級的過程，變種不斷涌現。單靠人類無法做到的海量、即時、敏捷的審核，而互聯網又催生了數量、速度、種類都前所未有的內容。毫無疑問，AI 將視為一個可靠的解決方案。網易易盾內容安全借助于深度學習技術，在自然語言處理、機器視覺和機器聽覺等領域都取得了迅速的進展，通過數據收集標注、模型訓練、效果優化、性能優化、算法測試這一系列標準化流程構建全面的算法內容安全能力。
以音頻審核為例，易盾音頻內容安全算法主要由聲音分類算法和語音識別算法兩部分組成。其中聲音分類算法（Sound Classification）主要用于識別音頻中的聲音類型，例如嬌喘、呻吟、ASMR、說話語種等，語音識別算法（Automatic Speech Recognition, ASR）主要用于說話內容識別，將語音內容轉寫為文字內容，并進一步檢測文字的合規性。
目前，越來越多企業正在使用這套處于數字內容風控領域領導者地位的、可全面降低人力成本的、高效攔截違規不良內容的內容安全解決方案，平穩地開展內容生態的數字化轉型之旅。
