【ITBEAR科技資訊】6月18日消息,在近日舉行的2024世界半導體大會暨南京國際半導體博覽會上,江蘇鯤鵬?昇騰生態創新中心的首席運營官王陶披露了昇騰集群的最新進展。據王陶介紹,昇騰集群已經完成了訓練千億參數大模型的技術路線,其性能更是超越了業界知名的英偉達A100。
在中國眾多的大模型中,近半數選擇了昇騰技術路線,這足以彰顯其在AI領域的強勁實力。王陶進一步指出,昇騰AI芯片在訓練效率上最高可以達到英偉達芯片的1.1倍。更令人矚目的是,在訓練如meta Llama、BloomGPT等大型模型時,昇騰AI的算力訓練效率遠超英偉達A100,甚至達到了其他國產友商的10倍。
王陶驕傲地表示,昇騰目前已經成為了國產化大模型的首選。他舉例說,科大訊飛在經過嚴格測試后,也采納了華為的萬卡集群方案。與英偉達A100相比,該集群在效率上能達到0.8至1.2倍。盡管在某些方面與英偉達A100還存在微小差距,但在大模型訓練領域,昇騰已經與英偉達A100芯片不相上下。特別是在萬卡算力集群的實踐應用上,無論是鯤鵬云腦還是科大訊飛,都已經過了市場的嚴格檢驗。
據ITBEAR科技資訊了解,此前在華為全連接大會2023上,華為發布了一款全新架構的昇騰AI計算集群——Atlas 900 SuperCluster,該集群可支持超過萬億參數的大模型訓練。其創新之處在于采用了華為全新的星河AI智算交換機CloudEngine XH16800,利用該交換機高密度800GE端口的能力,僅通過兩層交換網絡就能實現2250節點(相當于18000張卡)的超大規模無收斂集群組網。這一技術突破無疑進一步鞏固了昇騰在AI領域的領先地位。