在今年的Amazon re:Invent大會上,第二天的焦點明顯轉向了模型訓練、推理及應用落地,一系列創新工具和服務成為了全場矚目的亮點。Amazon SageMaker、Amazon Bedrock和Amazon Q,作為這一戰略的核心組成部分,正引領著生成式AI技術的全新發展方向。
亞馬遜云科技的人工智能與數據副總裁Swami Sivasubramanian指出,我們正站在生成式AI發展的十字路口,盡管前路并非總是清晰明了,但推動技術進步的好奇心與解決客戶實際問題的決心,正成為我們前行的強大動力。
Amazon SageMaker,這一全球數十萬客戶信賴的平臺,已經憑借其卓越的功能成為了構建、訓練和部署機器學習模型的首選。在今年的Keynote演講中,亞馬遜云科技的首席執行官Matt Garman詳細介紹了下一代SageMaker的愿景,它將大數據處理、快速SQL分析、機器學習以及生成式AI的核心能力整合到一個統一的平臺中,為用戶提供前所未有的便捷體驗。
為了進一步提升SageMaker的訓練效率,亞馬遜云科技推出了Amazon SageMaker HyperPod。這款創新的解決方案具備出色的彈性能力,能夠在集群遭遇全棧故障時自動恢復,同時提供快速的檢查點和主動計算資源管理功能。HyperPod的靈活訓練計劃和任務治理功能,更是極大地簡化了模型訓練計劃的管理,提高了計算資源的利用率,降低了成本。
在推理領域,Amazon Bedrock正成為企業構建和擴展生成式AI應用的得力助手。它不僅是一個模型庫,更是一種一站式解決方案,覆蓋了從模型選擇、成本優化、延遲和準確性提升,到數據定制、安全性和負責任AI,再到構建和協調Agent的全方位能力。通過Bedrock的統一API,用戶可以輕松訪問來自領先提供商的100多個新興和專業基礎模型,并結合知識庫、智能防護和智能代理功能,實現更高效的應用開發。
Amazon Bedrock還引入了多項創新功能,如提示詞緩存和提示詞智能路由,以大幅降低延遲和成本。同時,它還提供了Amazon Kendra GenAI Index,為RAG和Bedrock提供托管檢索服務,簡化了對企業數據源的連接和使用。在數據自動化方面,Bedrock能夠自動化非結構化多模態數據的轉換,為結構化數據檢索提供支持,并增強了GraphRAG對知識圖譜的集成。
Amazon Q作為生成式AI助手,也在大會上大放異彩。Amazon Q Developer不僅成為了亞馬遜云科技專家的得力助手,更是一款功能強大的軟件開發生成式AI助手。它支持SageMaker Canvas中的自然語言開發ML模型,幫助經驗較少的客戶輕松上手。同時,Amazon Q還在Quicksight Scenarios中提供了支持,實現了BI對復雜業務問題的自動拆解,加速了商業分析的過程。
盡管亞馬遜云科技提供了如此完備的產品和技術服務,但企業在面對生成式AI時仍然面臨一些挑戰。亞馬遜云科技全球服務副總裁Uwem Ukpong總結了三大挑戰:云遷移瓶頸、數據孤島難題以及應用場景聚焦不足。為了解決這些問題,亞馬遜云科技成立了生成式AI創新中心,與客戶合作完成了超過700個應用案例。對于不同技術水平的客戶,亞馬遜云科技提供了從“低強度指導”到“白手套服務”的全方位支持,幫助客戶獨立推進項目或一起構建生成式AI應用。
在概念驗證項目中,Uwem Ukpong強調,企業需要認真評估成本與收益,分析投資回報率,并判斷具體的用例是否值得重點推進。通過這一系列的創新舉措和全方位支持,亞馬遜云科技正致力于推動生成式AI技術的廣泛應用和深入發展。