在預訓練大模型催生的人工智能浪潮下,數據已經成為各行各業不可或缺的新型生產要素,同時也面臨著一系列棘手挑戰:既要保護數據安全,又要利用數據創造經濟效益。
讓數據可用不可見的“隱私計算”,由此被越來越頻繁地提及。有人打了一個形象的比喻:隱私計算就像是一個黑箱,人們不需要看到黑箱內是如何運作的,卻可以得到想要運算結果,可以說是“魚與熊掌”兼得的最優解。
在大廠扎堆的隱私計算賽道中,有一個“黑馬”級的創新團隊——沖量在線,成立僅三年多時間就躋身國內隱私計算第一梯隊,并頻頻在人工智能應用落地有關的重量級比賽中嶄露頭角。
首創隱私計算與海光異構加速卡結合,性能比肩國際主流產品
可能不少人對“沖量在線”這個名字還有些陌生,卻是隱私計算賽道中名符其實的實力派選手。
2022年6月,沖量在線與中科海光聯合推出了全國產化的異構加速隱私計算一體機,將適用于CPU芯片上的CSV技術與海光芯片異構加速芯片直通,利用GPU資源加速TEE中的隱私計算。和市場上的其他可信方案相比,沖量在線的異構加速隱私計算一體機表現出了多方面的優勢:
第一,在整個機器學習的訓練和推理過程中,數據無需落盤,保證數據不存在隱私泄露的困擾;
第二,基于海光異構加速卡,保證上層基于深度學習框架上的AI應用和隱私計算算法不需要修改;
第三,攜手海光,實現底層核心的自主、安全,達成了端到端的軟硬件全國產化。
目前,沖量在線基于海光的異構加速機密計算產品已經在中國電信和浦發銀行的項目中落地,安全性能可以比肩國際主流產品,是國內首個基于GPU的TEE方案,可同時滿足大規模數據訓練推理的高性能和安全需求。
打通隱私計算“最后一公里”,需要產業鏈互促共贏
在沖量在線的異構加速隱私計算一體機方案中,“AI安全開放平臺”是一個不可或缺的模塊,用于實現AI安全對外共享服務的場景,也就是現在很流行的可信MaaS平臺(Model as a Service)。
而沖量在線“AI安全開放平臺”的誕生契機,則是第二屆光合組織解決方案大賽。通過大賽這一平臺,沖量在線加深與了海光的合作。在經歷了長達7個月的研發“急行軍“后,雙方聯合推出了“沖量AI安全開放平臺”。該平臺為政務、金融、算力中心等領域提供安全可靠的AI服務。
銀行等金融機構通過“AI安全開放平臺”,將成熟應用的AI能力 向第三方輸出,無需修改AI應用和隱私計算算法,就能對外提供隱私計算AI SaaS服務。這不僅可以保證第三方提交的合同、數據等信息的安全,也能保證銀行AI算法的安全性,在全面可控的隱私計算機制下實現數據資產的價值變現。
沖量在線合伙人、解決方案總經理黃淼介紹:“在整個比賽過程中,光合組織給予了非常多的資源支持。比如一些深度學習框架,框架的開發者并未對國產芯片進行適配。比賽過程中,我們向海光提出了大量優化和適配需求,對方基本在一個禮拜內就能解決,可以明顯感受到國產軟硬件生態的持續改善。”
而國產生態的改善,帶來的直接結果就是業務量的激增。黃淼介紹,在某銀行AI SaaS服務的安全能力技術提升的項目招標中,參與投標的企業不乏一些知名的金融科技和AI公司,但最終中標的是沖量在線的產品和方案。因為沖量在線對業務的理解更加深刻,譬如如何將模型在國產芯片上運行和優化,對外應該提供什么樣的接口,怎么和客戶的業務系統進行集成等。
光合組織的第三屆解決方案大賽已經啟動。大賽設置了集智計劃(人工智能)、桃李計劃(教育信息化)、堡壘計劃(安全技術應用)三大細分賽道,優勝者將贏取超過1000萬的資金及資源,參賽者將獲得專屬技術指導、產業資源對接、品牌推廣助力等多維度支持。
