【ITBEAR科技資訊】7月30日消息,亞馬遜云與英偉達攜手推出全新Amazon Elastic Compute Cloud(EC2)P5實例,配備強大的英偉達H100 Tensor Core GPU。這項新服務為用戶提供了擴展生成式人工智能、高性能計算(HPC)和其他應用的便利途徑,只需通過瀏覽器就能輕松實現。
據了解,英偉達H100 GPU具有針對Transformer的優化,這是許多先進AI應用的關鍵技術之一。這樣的優化使得H100在這些應用中表現出更卓越的性能和效率。尤其是對于開發人員和研究人員來說,每天都在不斷發掘人工智能的新應用,推動這些應用走向市場需要更高的計算效率。
NVIDIA H100 GPU以其創新的架構提供超級計算級別的性能。其中包括第四代Tensor Cores,新的Transformer引擎用于加速大型語言模型 (LLMs),以及最新的NVlink技術,這些特性使得H100 GPU在處理復雜計算任務時能夠顯著提高性能。
據ITBEAR科技資訊了解,EC2 P5實例特別適合用于訓練和運行復雜的LLMs和計算機視覺模型的推理。這些強大的神經網絡驅動著最復雜、計算密集型的生成式人工智能應用,包括問答、代碼生成、視頻和圖像生成以及語音識別等應用場景。
盡管AWS尚未正式承諾將AMD MI300芯片集成到其云服務中,但亞馬遜彈性計算云副總裁Dave Brown證實,AWS正在積極考慮采納這一方案。這表明云計算領域正不斷探索和引入新的創新技術,以滿足不斷增長的計算需求和更廣泛的應用場景。