1度電可實現多少次AI推理計算?寧暢的答案是:上百萬次!
11月4日,2022云棲大會上,寧暢公司首席技術官趙雷介紹,依托“全系統定制液冷服務器方案”,寧暢可讓1度電能實現上百萬次的AI模型推理計算,讓高能耗AI產業順應“低碳”政策要求。
伴隨AI產業高速發展,數據中心建設迎來熱潮,但對更高算力的需求,也給數據中心行業帶來能耗難題,伴隨多項政策出臺,降低PUE(數據中心能源效率指標)成為IT企業追求目標。
2022云棲大會上,寧暢首席技術官趙雷在遠程分享《場景化綠色算力發展與實踐》報告時表示,寧暢“全系統定制液冷方案”不僅可讓數據中心PUE值降低至1.2以下,還可滿足服務器單芯片500W功耗的散熱,讓單機柜功率得到提升并節省部署空間80%,噪音低于50分貝。
2022云棲大會寧暢報告現場
“通過總負載10MW的數據機房來看,采用寧暢液冷方案,相比傳統風冷模式,其年均節省電費可高達1580萬元,節省的電能,每1度都可進行數百萬次AI推理計算。”
趙雷介紹基于MLPerf-training2.0、MLPerf-inference2.1人工智能測試標準,寧暢新款液冷服務器,僅1度電就可實現16870314次目標識別分類、435343次重量級目標分析,能效比位列行業頭部。
2022年9月,在國際權威AI性能基準測試平臺MLPerf的最新推理(Inference 2.1)結果中,寧暢兩款液冷服務器共獲得13項的第一成績,該成績背后是每秒可完成679915個樣本處理的世界頂級性能。
另據IDC最新發布的《2022上年度(H2)中國加速計算服務器市場分析報告》顯示,寧暢(Nettrix)已位列中國區加速服務器市場第二名。
如今,寧暢作為智能算力定制專家,已承接定制化服務器項目近千個,其中液冷方案眾多。
