9月9日,國際權(quán)威AI性能基準測試平臺MLPerf公布最新推理(Inference V2.1)測試成績。在與眾多國際一流廠商的同臺競技中,寧暢人工智能服務器X640 G40和GPU液冷服務器X660 G45 LP兩款核心產(chǎn)品性能登頂,共斬獲13項第一。
MLPerf是影響力最廣的國際AI性能基準測試之一,Inference V2.1包括Datacenter數(shù)據(jù)中心和Edge邊緣兩大賽道,設置離線、在線、單數(shù)據(jù)流、多數(shù)據(jù)流等多種模式,多維度考察廠商產(chǎn)品性能。
X660 G45 LP奪冠,支持更多場景應用
在本次測試中,寧暢液冷產(chǎn)品大展拳腳,表現(xiàn)最為搶眼的非X660 G45 LP服務器莫屬,共獲12項測試第一。寧暢X660 G45 LP是專門為深度學習訓練開發(fā)的高性能液冷計算平臺,采用成熟的冷板式液冷設計,在本次測試中表現(xiàn)出卓越性能,算力超群。
在此次比賽中,寧暢X660 G45 LP服務器分別在數(shù)據(jù)中心16個任務中斬獲8項最佳成績,在邊緣賽道中獲4項最佳成績,展現(xiàn)出在高端機型中的領(lǐng)先優(yōu)勢。在線模式下,該服務器成功獲得DLRM(智能推薦模型)在99%和99.9%精度要求下的2項測試全場第一,該模型在疫情形勢下具有廣泛的應用價值,能夠通過大數(shù)據(jù)技術(shù)實現(xiàn)海量數(shù)據(jù)的采集、分類和存儲,結(jié)合用戶的消費習慣實現(xiàn)電商服務精準推送等。
本次測試還覆蓋多種典型的AI模型,包括ResNet(圖像分類)、3D-UNet99(圖像分割)、Rnnt(語音辨識)、RetinaNet(目標檢測)、Bert-99(自然語言處理)等,更加貼近實際應用情況,例如,3D-UNet99主要應用場景為醫(yī)學圖像分割,RetinaNet在自動駕駛等領(lǐng)域廣泛使用。寧暢在眾多模型任務下獲得全球領(lǐng)先成績,證明其服務器強大的AI性能與應用潛力。
除X660 G45 LP服務器產(chǎn)品外,搭載NVIDIA GPU,寧暢X640 G40人工智能服務器也在本次測試中獲得了優(yōu)異成績。在數(shù)據(jù)中心固定任務賽道中,該服務器搭配NVIDIA GPU,獲得ResNet模型測試成績?nèi)珗龅谝?離線分數(shù)679915,意味著每秒可完成679915個圖片樣本處理。
冠軍的背后:液冷技術(shù)大展拳腳
自2020年至今,寧暢已連續(xù)6次參加MLPerf AI性能基準測試,共斬獲百余項第一成績,而本次X660 G45 LP服務器獲得優(yōu)異成績的原因,除了軟硬件層面的精細校準和全面優(yōu)化外,液冷技術(shù)的加持也至關(guān)重要。
據(jù)了解,寧暢液冷服務器產(chǎn)品針對服務器主要熱源CPU、GPU、內(nèi)存進行冷板液冷設計,可實現(xiàn)部件級精確制冷。寧暢方面表示,液冷技術(shù)在本次測試中發(fā)揮了明顯作用,可有效降低GPU溫度,保證其最佳工作頻率,充分發(fā)揮算力性能。
截至目前,寧暢技術(shù)團隊專注服務器領(lǐng)域已有15年,液冷產(chǎn)品經(jīng)過千項測試確保運行穩(wěn)定可靠。
