9月13日至14日,2023開放數據中心大會在北京市隆重開幕。銳捷網絡在網絡分論壇上發布了AIGC智算中心網絡整體方案,為AIGC大模型的發展提供了全方位的網絡解法。
大模型發展趨勢以及網絡通信訴求
隨著AIGC技術賦能產業持續升級,業務對大模型的需求也日益旺盛,更多的訓練參數量以及更高的算力成為大語言模型的迭代目標。為了支撐多元化的行業應用,數據中心需要更大規模的集群來承載大語言模型的分布式訓練。大語言模型運算效率與網絡轉發帶寬存在密不可分的聯系,網絡帶寬接入能力與網絡帶寬利用率是影響GPU利用率的關鍵指標。
基于以上需求和痛點,銳捷網絡解決方案經理劉洋在2023開放數據中心大會(ODCC 2023)上,通過主題演講《面向AIGC的智算中心網絡建設思考》,闡述了AIGC大模型的發展趨勢及關鍵訴求,正式發布了AIGC智算中心網絡整體方案。方案采用統一標準化的以太網絡技術,具體提出兩種AIGC智算中心網絡解決方案。
銳捷網絡解決方案經理劉洋
現場觀眾
高性能以太網絡解決方案
高性能以太網絡解決方案通過三級組網的方式可以滿足3.2萬個400G端口接入需求,支撐32K塊GPU卡的集群規模。在網絡性能層面,部署實施時關注RDMA無損網絡中PFC、ECN等水線的設置,進行負載均衡模式及算法優化提升網絡的帶寬利用率(詳細技術可參考文章《解決數據中心網絡擁塞,銳捷RALB負載均衡技術助力高效數據傳輸》)。運維優化階段,該方案強調對網絡關鍵指標的實時監控,應用智能運維平臺根據現網狀況進行動態調整以實現更佳的網絡性能,該解決方案已獲得市場的廣泛認可。
高性能以太網絡解決方案
網絡寬帶接入層面,銳捷網絡RG-S6980-64QC數據中心交換機支持64*400G通信端口,可以同時應用在TOR、Leaf、Spine三個層級,該設備已經批量交付了很多互聯網的客戶。
數據中心盒式核心交換機RG-S6980-64QC
AI-Fabric智算中心網絡解決方案
AI-Fabric智算中心網絡解決方案是銳捷網絡針對AIGC業務場景發布的另一套解決方案。采用NCP+NCF為基礎模塊橫向擴展的三級網絡架構,可以支撐17K～32K的大規模GPU卡集群?；诟咝阅苄酒夹g,通過將數據流切分成等長的Cell并負載到所有鏈路,提升網絡帶寬利用率;基于VOQ+Credit的端到端流控機制實現與業務無關的無損自閉環網絡,助力業務算力提升。(詳細技術可參考文章《銳捷網絡高性能網絡方案,為AIGC打通“任督二脈”》)
AI-Fabric方案組網架構
網絡寬帶接入層面,AI-Fabric智算中心網絡解決方案由400G NCP交換機和200G NCF交換機組成。NCP設備為RG-S6930-18QC40F1,支持18口400G的業務口,并支持40口200G的Fabric內聯口。NCF設備為RG-X56-96F1,支持96口200G的Fabric內聯口。該解決方案可滿足不同業務需求,具有可擴展性和靈活性。
AI-Fabric 400G高帶寬產品接入方案
在全球互聯網流量不斷增長和數據應用需求日益多樣化的背景下,銳捷網絡致力于推動網絡技術的進步和發展,AIGC智算中心網絡整體方案的推出正是其不斷探索和創新的有力證明。通過持續的技術研發和產品創新,銳捷網絡將繼續為全球的數據中心提供更加高效、可靠、智能的網絡解決方案,在AIGC時代,助力互聯網企業及各行各業的快速發展。
