【ITBEAR科技資訊】8月8日消息,微軟攜手英偉達在今年3月宣布推出Azure ND H100 v5 VM虛擬機預覽版。經過數月的測試和調試,今天,該虛擬機正式面向企業推出,旨在幫助企業更高效地處理生成式AI任務。
Azure ND H100 v5 VM是Azure迄今為止功能更為強大且高度可伸縮的AI虛擬機系列之一。該虛擬機支持的按需配置從8個到上千個NVIDIA H100 GPU,并通過Quantum-2 InfiniBand網絡進行互連,大幅提升了AI模型的性能。相較于上一代ND A100 v4 VM,新推出的虛擬機引入了一系列創新技術:每個虛擬機配備8塊NVIDIA H100 Tensor Core GPU,利用下一代NV Switch和NV link 4.0實現高速互連;每個GPU搭載400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand,在無阻塞胖樹網絡中,每個VM可達3.2Tb/s的性能;此外,每個VM內的8塊本地GPU之間通過3.8Tb/s的帶寬進行互聯,采用NV Switch和NV link 4.0技術;最后,新虛擬機還配備了第四代英特爾至強可擴展處理器,以及每個GPU帶寬為64Gb/s的PCIE第5代主機到GPU互連和16信道的4800 MHz DDR5內存。
據ITBEAR科技資訊了解,新的虛擬機采用了NVIDIA的Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網絡。目前,該虛擬機預覽版僅限美國東部和西部Azure企業訪問。微軟表示,公司正在努力在明年為其虛擬機添加數十萬塊新的GPU,以滿足不斷增長的需求。
除了Azure ND H100 v5 VM虛擬機,微軟還宣布擴展其Azure OpenAI服務,將在加拿大東部、美國東部2、日本東部和英國南部地區上線。Azure OpenAI服務的客戶數量已超過11000人,每天平均吸引100名新客戶。這一顯著增長證明了微軟為滿足企業獨特需求而提供的人工智能服務的價值和可擴展性。
微軟補充稱,ChatGPT AI平臺最強大的版本GPT-4也將適用于新的Azure OpenAI服務區域,這進一步鞏固了微軟在人工智能領域的領先地位,并為全球企業提供更多高效的AI解決方案。