隨著ChatGPT的出圈爆火,AIGC技術已開啟了快速發展模式,不少企業紛紛發力布局AI大模型領域,多個AI大模型如雨后春筍般涌現,呈現“百模齊放”之勢。而AI大模型千千萬,但是能走進千家萬戶、賦能千行百業才是硬道理。
算力作為人工智能發展的引擎,更是AI大模型的重要驅動力。AI大模型的參數量和計算量龐大,要訓練出優秀的AI模型并真正應用于各行各業,需要巨大的算力支持。因此,百模齊發之時,能為大模型訓練提供強勁運算能力和高效安全的底座的AI算力成為各路必爭的利器。
作為中國AI服務器TOP3企業,寶德創新升級,重磅推出了自強®系列昇騰AI訓練服務器PR420KI G2,助力大模型賦能千行百業。該服務器面向深度學習模型開發和AI訓練服務場景,專為大模型訓練而生,具有更高算力密度、超高能效與高速網絡帶寬等優勢,提供豐富的算力資源,能加速處理運算,滿足大模型訓練的海量算力需求。
更高算力密度,高效加速AI應用
寶德自強®訓練服務器PR420KI G2基于鯤鵬+昇騰處理器打造,在4U空間內提供2.5PFLOPS FP16超強算力,最高提供0.65PFLOPS FP32業界領先算力,具有海量數據并行計算能力,可輕松應對大模型沉重的計算壓力。同時搭載8顆超強算力的昇騰處理器,其內部集成了圖像&視頻預處理器,外部通信模塊、硬件加速器、芯片管理核等模塊,提供完整的SOC功能,能高效加速AI應用。
高速網絡帶寬,加速大模型技術升級落地
AI大模型一方面需要強大的計算能力,另一方面也需要高速可靠的網絡讓數據及時流動。而模型參數量越大,對帶寬的需求就越高。PR420KI G2提供高速網絡帶寬,延時低,可有效減少大模型訓練的時間成本。它具有8*200G RoCE v2高速接口,8路NPU通過HCCS Full mesh互聯模式,雙向互聯帶寬可達392GB/s,全面提升大模型的訓練效率。同時整機HBM緩存512G,帶寬達1600GB/s,進一步釋放 AI 潛能,助力大模型算力瓶頸突破,加速大模型技術的迭代升級和落地應用。
極致能效比,兼顧高算力低能耗
碳中和背景下,大模型追求高算力的同時也要兼顧節能減排。PR420KI G2配置高效節能電源、動態冷卻機制,提供2.5PFLOPS/5.2kW超高能效比,在保持其性能的同時,大大節省運營費用,降低訓練成本;同時,還采用智能散熱系統,根據熱關鍵器件溫度綜合調節風扇轉速,節能的同時降低了噪音并提高風扇的可靠性。
此外,PR420KI G2還采用2+2 冗余電源設計,提供多種 RAID 保護級別,具備數據處理性能和保護數據功能,為服務器的運行安全提供更高的安全保障。它可廣泛適用于大模型訓練、智慧城市、智慧醫療、天文探索、石油勘探、高性能計算(HPC)等需要大算力的應用場景,為加速更多AI落地和應用提供澎湃動力。
當前AI大模型正不斷向縱深發展,在國家政策的影響下,高算力、高帶寬、低能耗的AI算力基礎設施將更受青睞。未來,寶德將繼續充分發揮自身AI服務器領域的技術優勢和市場經驗,加速大模型與實體產業的深度融合,助推更多大模型場景落地和應用,促進千行百業數字變革,為我國人工智能產業的發展注入強勁的動力。
