當前，各種新興技術層出不窮，數據呈現出快速增長的態勢，算力已經成為賦能行業發展的生產力。隨著人工智能的發展，智能語音、圖像識別等AI模型應用也對AI服務器的訓練和推理性能提出了更高的要求。浪潮作為全球領先的計算力提供商，一直致力于打造高性能的AI服務器產品，以促進產業AI解決方案的開發與應用。
在不久前的GTC元腦生態技術論壇上，中科極限元、趨動科技、睿沿科技等元腦生態伙伴分享了多個場景下浪潮AI服務器NF5488A5的實測數據。數據顯示，浪潮NF5488A5可廣泛應用于圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景，幫助AI用戶高效完成AI基礎設施和開發環境的構建，縮短開發周期，顯著提升AI開發和應用效率。
NF5488A5AI服務器是浪潮自主研發的產品，可為用戶提供高達5 PetaFLOPS的AI計算性能和超高速帶寬，在4U空間內支持8顆第三代NVLink全互聯的A100芯片，為各類AI應用場景提供強大的計算力支撐。另外，NF5488A5曾屢次打破全球權威AI測試榜單MLPerf的記錄，基于ImageNet的ResNet50基準測試顯示，NF5488A5完成訓練僅需33.37分鐘，單機性能高居第一；推理性能達到每秒54.9萬張圖片，3倍于去年推理榜單的服務器最好性能。
NF5488A5服務器高性能、高帶寬、易部署的特性極大地促進了智能語音模型訓練及線上推理。本次中科極限開發的智能語音交互模型在浪潮AI服務器NF5488A5進行加速。測試數據顯示，在相同準確率下，與原有的系統相比，NF5488A5將模型訓練速度提升了50%，單機最大推理路數提升88%，推理延遲提升65%。
NF5488A5服務器縮短訓練時間，提升推理能力。睿沿科技推出的高山雨燕工業視覺平臺在計算層使用了浪潮AI服務NF5488A5加速訓練和推理。實測結果顯示，在圖片視頻分辨率相同的情況下，模型原來的訓練時間為140分鐘，使用NF5488A5之后，訓練時間可縮短到105分鐘，速度提升25%。單機最大推理FPS（每秒傳輸幀數）由20800提高到28000，提升35%。
在未來，產業AI化將成為趨勢，AI客戶在語音、語義、圖像、視頻、搜索、網絡等方面的需求將越來越大，對AI服務器的訓練和推理性能要求也將更為嚴格。對此，浪潮AI將繼續與人工智能領先科技公司保持在系統與應用方面的深入緊密合作，幫助用戶在此方面取得數量級的應用性能提升。
