【ITBEAR科技資訊】3月14日消息,晶圓級芯片領域的領軍企業Cerebras,近日發布了其最新一代的芯片產品——WSE-3。據悉,這款芯片在保持與前代產品WSE-2相同功耗的同時,實現了性能的大幅提升,翻倍的表現令人矚目。
WSE-3的詳細參數顯示,它采用了臺積電先進的5nm制程技術,集成了高達4萬億個晶體管,擁有900,000個AI核心,以及44GB的片上SRAM緩存。此外,WSE-3還提供了1.5TB、12TB和1.2PB三種可選的片外內存容量,以滿足不同場景下的需求。其峰值AI算力更是高達125 PFLOPS,展現了強大的計算能力。
據ITBEAR科技資訊了解,Cerebras基于WSE-3推出了CS-3系統,該系統憑借其最高可達1.2PB的內存容量,能夠訓練比當前熱門的GPT-4和Gemini模型大10倍的下一代前沿模型。這意味著CS-3可以在單個邏輯內存空間中容納參數規模高達24,000T的模型,為開發人員提供了極大的便利,簡化了他們的工作流程。
CS-3系統非常適合超大規模AI需求。一個緊湊的四系統集群就能夠在一天內完成70B模型的微調。而當使用最大規模的2048個CS-3系統集群時,它甚至可以在一天內完成Llama 70B模型的訓練,展現了驚人的訓練速度。
Cerebras還強調CS-3系統的易用性。在大模型訓練中,與GPU相比,所需代碼減少了97%。開發人員僅需565行代碼就可以實現與GPT-3大小模型相當的標準實現,這大大降低了開發門檻和復雜度。
阿聯酋的G42財團已經表示將打造基于Cerebras CS-3的Condor Galaxy 3超級計算機。這臺超級計算機將包含64個CS-3系統,提供高達8 exaFLOP的AI算力,為科研和工業領域的應用提供強大的支持。