【ITBEAR科技資訊】3月14日消息,微軟最近宣布了其加強和英偉達的合作,推出專門針對人工智能開發的全新的ND H100 v5虛擬機。這款虛擬機主要面向需要整合或開發人工智能的企業,其性能得到了極大提升。
虛擬機配備了8塊英偉達H100 Tensor Core GPU,通過下一代NVSwitch和NVlink 4.0互連。通過NVSwitch和NVlink 4.0,每臺虛擬機內的8個本地GPU之間的對分帶寬為3.6TB/s。同時,采用英特爾第4代Xeon Scalable處理器,使用PCIe Gen5連接GPU,每個GPU帶寬為64GB/s,16通道4800MHz DDR5 DIMM。
在非阻塞的胖樹架構網絡下,每塊GPU的NVIDIA Quantum-2 CX7 InfiniBand性能可以達到400Gb/s,每臺虛擬機可以達到3.2Tb/s。這樣的性能提升,將為企業和開發人員提供更強大的計算資源,加速人工智能的開發和部署。
據ITBEAR科技資訊了解,微軟先前在Azure OpenAI服務中宣布了ChatGPT相關服務。而這款全新的虛擬機將成為該服務的補充,它允許第三方通過Azure訪問聊天機器人技術。這意味著,企業和開發人員可以利用更強大的計算資源來打造更加強大的聊天機器人,提供更加智能的服務。
微軟的這次加強與英偉達的合作,推出全新的ND H100 v5虛擬機,為企業和開發人員提供了更強大的計算資源。相信這將為人工智能的發展和普及帶來更大的推動和助力。