作者：云道士
2023年，生成式AI技術破繭成蝶，引發了一場全球范圍的數字革命。從最初的聊天、下棋開始，到醫療、金融、制造、教育、科研等，生成式AI表現出了強大的創造力和無限潛力。
同時，生成式AI又是一把雙刃劍，它既可以幫助企業解決實際問題，又面臨著數據泄露等巨大風險。今年年初，某大型全球化企業就在大模型訓練過程中，泄露了企業數據庫中的機密信息，給企業帶來了巨大的負面影響。而此類事件依然層出不窮。
生成式AI在訓練與使用過程中，有諸多環節都將面臨數據泄露風險，應該以何種方式保障安全呢？
8月31日，亞馬遜云科技re:Inforce 2023中國站正式開啟，此次大會以“AI時代 全面智能的安全”為主題，目標就是幫助企業解決生成式AI在全部流程環節中的安全挑戰。
安全是構建生成式AI應用之根本
亞馬遜云科技大中華區解決方案架構總監代聞表示：安全是構建生成式AI應用不可回避的重要議題。從全棧角度出發，應該從數據、傳輸、應用到基礎設施整體構建出可靠的合規體系，這樣才能真正保障AI應用的安全。
代聞-亞馬遜云科技大中華區解決方案架構總監
亞馬遜云科技一直嚴格遵從客戶擁有和控制數據的理念，提供了行業領先的技術和物理措施來防止未經授權的訪問，為數據提供涵蓋存儲、傳輸、使用、治理等各個環節的加密及保護服務。
舉例而言，企業在訓練AI模型過程中首先要訪問數據庫，現代企業的業務數據是創新的基礎，也是“命脈”，一旦數據泄露就將帶來不可逆的惡劣影響。同時，在數據傳輸、使用、治理、訪問等各個環節，也會面臨泄露風險。
因此，安全是構建生成式AI應用不可回避的議題！
針對生成式AI，亞馬遜云科技將安全防護劃分為三個階段，分別為：數據和模型安全、應用安全和全球合規，并基于此提供了更為系統化的安全防護工具。
數據安全，從存儲和傳輸開始
在數據保護方面，亞馬遜云科技重點推薦的第一項服務就是Amazon KMS。其全稱為Amazon Key Management Service，是一項通過硬件安全模塊來保護用戶密鑰的云端安全服務。借助Amazon KMS，用戶可以創建和管理加密密鑰，并控制相關權限。這些密鑰可用于跨各種亞馬遜云科技服務和用戶應用程序訪問加密數據。
同樣地，數據傳輸也是安全防護的重要階段，此環節可通過Amazon Nitro來構建獨立的安全傳輸通道。Amazon Nitro是一種虛擬化基礎設施，Amazon Nitro安全芯片可用于加密和驗證虛擬機的訪問，并可檢測未經授權的硬件修改和惡意軟件的植入。依托于虛擬化技術，Amazon Nitro系統還能夠提供更好的網絡和存儲性能。
有了安全的存儲和傳輸，針對計算環節亞馬遜云科技則有Amazon Nitro Enclaves計算加密。它可將計算實例進行隔離，并控制應用互訪vCPU和內存，可幫助用戶減少用于處理最敏感數據的應用程序的攻擊面，從而保護計算安全。
涂鴉信息技術有限公司安全總監劉龍威表示：涂鴉智能是一家全球化的物聯網解決方案商，以亞馬遜云科技Amazon Nitro為安全的云基礎，通過硬件隔離的方式保障了整個用戶數據體系的可信。與Amazon KMS聯動實現了更高基本的安全管理，從而服務于78萬的開發者及海量的IoT設備，并使其牢不可破。
在re:Inforce 2023大會上，亞馬遜云科技與涂鴉智能成立“聯合安全實驗室”，雙方將在智能家居、數據安全、安全文化建設、海外合規等領域，重點就機密計算及數據隱私、Matter技術合作及體系建設、生成式AI在IoT領域等安全實踐展開聯合共創。
此外，亞馬遜云科技中國方案開發中心還正式發布了敏感數據保護解決方案，可實現自動發現企業敏感數據，并在統一平臺管理數據資產。例如在Amazon S3存儲中，允許用戶創建數據目錄、使用內置或定制數據識別規則定義敏感數據類型，以機器學習方式來匹配并識別敏感信息，并做出警告。以可視化方式進行管理，進而幫助用戶實現對敏感數據的管理與保護。目前該解決方案已經可以提供下載。
訓練安全，Amazon SageMaker的模型三劍客
數據在存儲、傳輸及計算環節的安全得到了保障，接下來需要關注的自然就是模型的構建環節了。
代聞表示：Amazon IAM API每秒調用次數超過10億，其為大模型的構建提供了強大的源動力。Amazon SageMaker正在為設置、授權、驗證、調優等環節提供針對模型的訪問策略，并通過Amazon Model Cards、Amazon Model Monitor及Amazon Model Registry等工具全方位地監控模型的運行。
在AI大模型的初始爆發期，很多企業的模型訓練環節都處于“裸奔”狀態，即原始數據與模型未加防護，此時的數據泄露風險也是最高。
針對這些痛點，模型三劍客之一的Amazon SageMaker Model Cards問世了，它是一套文檔化機器學習模型的規范格式工具，可實現對模型信息的統一管理，包括模型的描述、功能、性能等信息。通過使用Amazon Model Cards，用戶可以更好地了解和評估機器學習模型，以選擇最適合其需求的模型，并為下一步監測與管理做好準備。
Amazon SageMaker Model Monitor提供的就是自動化監控與檢測服務，可以幫助用戶在生產環境中監控模型的性能、數據質量和數據偏差，以確保模型的準確性和穩定性。
功能方面Amazon Model Monitor提供了數據捕獲、數據分析、數據報告和數據警報，可生成詳細的報告和警報通知用戶，有利于促進模型的持續改進和優化。
Amazon Model Registry則是Amazon SageMaker提供的一個功能強大的工具，用于管理和跟蹤機器學習模型的版本和元數據。它提供了版本控制、回滾、元數據管理和集成功能，使用戶能夠更好地管理和部署模型。
在Amazon SageMaker這三套工具的幫助下，能夠讓用戶實現模型管理自動化，極大提升了工作效率。
大模型之潮已經勢不可擋，如果企業級用戶自身技術能力較弱，是否可以嘗試構建大模型呢？
別急，這就安排！
就在今年4月，亞馬遜云科技發布了完全托管的基礎模型服務Amazon Bedrock，可讓用戶根據需求通過API訪問及使用其中的基礎模型。Amazon Bedrock可使用用戶自己的數據私下自定義FM，并使用相關工具和功能將它們無縫集成和部署到應用程序中，無需管理任何基礎設施。
舉例而言，用戶希望在零基礎的情況下構建一套文本生成大模型，那么就可以通過簡單的操作在亞馬遜云端自定義出模型需求，并通過各種模型工具將其集成并部署到應用之中，就像拼裝樂高一樣簡單，極大降低了模型構建的門檻。
開發安全，利用AI取長補短
度過了激動人心的模型構建環節，接下來是開發。很多企業級用戶對開發戲稱是：人多手雜，容易出錯，同時還經常出現安全性問題。
針對這些痛點，亞馬遜云科技展示了兩套自動化工具服務，能夠幫助用戶排憂解難。
Amazon CodeWhisperer 可以看作是AI編程助手，經過數十億行代碼的訓練，可以根據用戶需求和現有代碼實時生成從代碼片段到全函數的代碼建議。Amazon CodeWhisperer支持主流編程語言和IDE，還可以為用戶提供有關 API 安全性、性能和最佳實踐的建議。融合機器學習和自動化分析就有了Amazon CodeGuru Security，它是一套強大的代碼漏洞掃描工具，可提供漏洞修補建議，并解決檢測配置錯誤、權限問題和敏感數據的泄露等安全問題。有效提升代碼的安全性和可靠性。
運行安全，來自云端的保障
當生成式AI大模型經歷開發后就迎來上線運行，而在該階段的安全防護也不能掉以輕心。因為在實際操作過程中，有很多安全事件都出在運行環節。此時，應用程序需要保護模型本身、數據及用戶隱私等來自多方面的安全，而最有效的方式就是：驗證。
Amazon Verified Permissions是亞馬遜云科技向開發者提供的一種驗證用戶訪問權限的機制。通過該服務，開發者可以確保用戶只能訪問其應用程序需要的有效權限，以保護用戶的隱私和數據安全。
當用戶向應用程序授權時，亞馬遜會驗證并返回一個訪問令牌，該令牌包含用戶已授權的權限。開發者可以使用這個令牌來驗證用戶的權限，并根據需要執行相應的操作。通過令牌式驗證，開發者可以確保用戶數據的安全性，并且遵守隱私法規和規定。同時也通過訪問權限控制來保障應用程序的數據安全。
構建全球化安全合規
在全球安全合規方面，亞馬遜云科技的全球化基礎設施包括超過200大類廣泛而深入的云服務和解決方案，包括覆蓋全球的安全合規、高速穩定的云基礎設施，以及來自亞馬遜的全球資源和創新文化。
據了解，亞馬遜云科技現已在全球獲得超過140個安全標準和合規認證。并進一步通過在其500多項自身合規審計控制項中使用 AI 技術，大幅提升了自身的合規效率，將審計時間節約了53%。
此外，亞馬遜云科技還通過零信任架構，來幫助用戶增強安全性、靈活性、擴展性并有效降低來自安全方面的成本，幫助企業構建更安全、高效和可靠的云安全體系。
生成式AI為我們帶來更多的創作、個性化服務、與用戶的交互以及創新和研究的可能性。也為人類創造力和智慧的拓展提供了新的工具和平臺。
在短短幾個月的時間里，生成式AI在中國市場就掀起了一場全行業的“百模大戰”，并將AI創新推向了一個新的高峰。諸多企業開始了探索與嘗試，同時也迎來了更為復雜的安全性挑戰。為了幫助企業迎接這日益復雜的安全挑戰，亞馬遜云科技通過技術積累、創新能力和對AI的深入理解，推出了多項面向生成式AI全流程的安全服務，著力幫助企業解決實際問題。
正如代聞所說：我們從第一天開始，就應該把安全當做第一最高優先級。
安全之事無小事，關乎企業發展之命脈。此次大會亞馬遜云科技攜同合作伙伴一起，以客戶為中心，通過安全服務深入到應用AI的每一個環節，共同構建起面向AI的未來安全。
