浪潮信息宣布旗下NF5468系列AI服務器率先支持英偉達最新推出的L40S GPU,可為人工智能大模型訓練和推理、元宇宙及圖形視頻處理等應用提供強大算力。實際測試表明,搭載8顆NVIDIA L40S的浪潮信息NF5468服務器大幅提升了LLaMA大模型的微調訓練性能。目前該產品已具備交付能力,客戶可以進行下單采購。
本次浪潮信息推出的算力系統是兼具訓練和推理能力的NF5468系列AI服務器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號,產品可以在4U空間內搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯網絡,從而滿足大模型計算對高算力、高互聯的極致性能需求。在軟件上,產品支持浪潮信息最新推出的OGAI大模型智算軟件棧,為客戶提供高效的大模型生產力支撐。
針對業界廣泛使用的LLaMA開源大型語言模型,浪潮信息NF5468服務器搭載8顆L40S GPU進行了大模型訓練性能測試,得益于浪潮信息在NF5468服務器的優秀設計和大模型算法上的專業經驗,L40S GPU的強大性能得以充分發揮,實際測試數據表明LLaMA大模型微調訓練性能優異。
浪潮信息NF5468系列AI服務器搭載L40S GPU可以很好地完成LLaMA大模型訓練任務,并具備良好的性能擴展,將幫助客戶迅速部署高性能的AI算力系統、采納強大的GPU加速器和領先的軟件生態,加速生成式AI的產業創新和發展。
