3月15日，在中國人工智能產業發展聯盟(AIIA)第十一次全會上，中國信通院發布大模型標準符合性驗證結果，華為云盤古憑借大模型安全解決方案——盤古安全護欄完成軟硬件、數據、模型、應用等可信模塊測試，成為業界首個在大模型可信領域獲得卓越級(5級)評分的大模型產品。
華為云盤古大模型獲得信通院可信要求5級評分
全新盤古安全護欄，信通院可信滿級認證
近年來，我國人工智能產業在《“十四五”數字經濟發展規劃》《“十四五”國家信息化規劃》等政策引導下蓬勃發展。大規模預訓練模型作為人工智能新基建的關鍵技術，在自然語言處理、計算機視覺等領域取得顯著突破。然而，隨著技術應用深入發展而來的數據投毒、不當應用等風險也逐漸凸顯。
自2021年起，中國信通院開始研究大規模預訓練模型標準，與多方共同建立技術和應用標準體系，推動人工智能發展。華為云盤古大模型在2022年首批參與，“模型開發”和“模型能力”兩個模塊達到優秀級(4+級)，在2023年大模型標準符合性驗證結果中，成為業界首個在模型應用模塊獲得卓越級(5級)評分的大模型產品。
在本次大模型標準符合性驗證中，華為云大模型安全解決方案覆蓋了基礎設施、訓練數據、生成內容的端到端安全合規全場景，有效應對大模型數據治理、模型可信、內容合規等三大維度風險，并以文本審核、Prompt攻擊檢測、AIGC鑒偽、個人隱私脫敏等新型可信能力，確保應用中的可信可靠。此外，在軟硬件和數據方面，盤古安全護欄保證了基礎軟硬件的安全性、可靠性和兼容性，以采集、預處理和使用控制實現數據可信性，并從多角度構筑數據可信能力，打造穩健、可控、合規且符合價值觀的應用服務。
為引導產業發展和規范行業自律，華為云還與中國信息通信研究院聯合其他相關單位共同開展編制《大規模預訓練模型技術和應用評估方法 第5部分：可信要求》，為國家人工智能產業的健康發展貢獻力量。
全新盤古安全護欄，筑牢大模型新防線
大模型逐漸深入行業核心系統，成為推動數字化轉型的關鍵力量，伴隨而來的還有端到端的可信挑戰。盤古安全護欄，進一步強化了大模型的全鏈路保障，基于華為云在盤古大模型實踐中積累的豐富經驗和技術優勢，開放兼容，能夠服務于多樣化的模型形態，助力企業實現大模型全鏈路合規。
華為云盤古安全護欄憑借四道防線，全面覆蓋大模型使用的全生命周期，兼容開源、三方大模型，為企業用戶提供最佳的大模型安全解決方案。
? 數據防護防線：通過數據脫敏、數據血緣、數據防毒等技術手段，從預訓練模型的數據集，直至數據治理階段，全方位保障企業構建高質量、安全合規的數據集，確保數據多樣性和公平性。
? 模型防護防線：針對模型訓練階段可能遭遇的數據投毒風險，以及推理階段訓練數據、用戶隱私信息泄露等風險，采用模型混淆、模型加密等先進技術，軟硬件結合，加密模型，有效保障企業大模型資產安全。
? 內容防護防線：通過Prompt攻擊檢測等新型防御能力，實現對多種直接與間接攻擊手段的有效檢測，并通過對模型輸入輸出內容嚴格審核，嚴防生成有害或不當信息，有效應對新型安全風險。
? 應用防護防線：保護大模型在應用插件場景下的安全可靠性，確保大模型在各類應用場景中都能穩定、高效地發揮作用。
據悉，盤古安全護欄四道防線的綜合攔截率超過90%，能夠為企業大模型提供堅實的保障。未來，華為云將持續致力于AI技術與行業實踐深度融合，護航大模型技術的創新與發展，為企業用戶提供更加可信的人工智能解決方案，讓企業創新安心無憂。
