【ITBEAR科技資訊】8月31日消息,谷歌云在今天召開的云Next大會上宣布,將于下個月推出A3虛擬機實例。這款新虛擬機實例的最大亮點是配備了英偉達H100 Tensor Core GPU,可以滿足生成式人工智能和大語言模型等需求。
據介紹,A3實例采用了第4代英特爾至強可擴展處理器、2TB DDR5-4800內存,以及8張英偉達H100“Hopper”GPU。通過NVlink 4.0和NVSwitch,該實例實現了3.6 TBps的對分帶寬。新的A3超級計算機專門用于訓練和服務要求最苛刻的人工智能模型,并為生成人工智能和大型語言模型創新提供支持。據稱,該超級計算機可以提供26 exaFlops的人工智能性能。
此外,谷歌云還在發布會上介紹了全新的TPU v5e,這是迄今為止成本效益和可訪問性最高的云TPU。這些TPU或定制ASIC旨在加速人工智能和機器學習工作負載。根據SDxCentral的報道,TPU v5e相較于前代,每美元的訓練性能提高了一倍,每美元的推理性能提高了2.5倍。