6月9-10日,由北京智源人工智能研究院舉辦的2023智源大會正式召開。與會期間,智源發布了完整的悟道 3.0 大模型系列,標志著大模型進入到了全面開源的新階段。此次悟道 3.0 包含首個支持中英雙語知識、開源商用許可的“悟道·天鷹(Aquila)”語言大模型系列,提供“能力-任務-指標”三維評測框架的“天秤(FlagEval)”大模型評測體系,力求打造大模型時代“新Linux”生態的FlagOpen大模型開源技術體系,以及6項“悟道·視界”視覺大模型研究成果。
一年一度的智源大會是國際人工智能生態發展的標志性活動,全球人工智能精英匯聚一堂,用最前沿的成果、最廣闊的國際視野進行思想碰撞。大模型成為主角的背后,是此前ChatGPT掀起全球技術革命和商業浪潮的必然結果。如今,伴隨著大模型的快速崛起及廣泛應用,底層算力的支撐作用愈發凸顯。潮流之下,國內領先的AI硬件公司天數智芯與此次智源大會有多方面的深度合作。
在技術推動層面,基于天數智芯天垓100加速卡的算力集群,僅用19天便成功完成北京智源人工智能研究院70億參數大模型全量訓練,收斂效果與英偉達A100集群相當。天數智芯從硬件、軟件兩個角度推動戰略升級,打造高性價比、廣通用性的全棧式集群解決方案,為大模型時代提供強大算力底座。
天數智芯的通用GPU產品天垓、智鎧系列具有自主可控、高性能、通用性、靈活性等特點,廣泛支持PyTorch、TensorFlow、PaddlePaddle 等各種原生框架,支撐了200余種人工智能算法模型穩定運行。在此基礎上,天數智芯自主研發了IXCCL分布式通信技術,顯著提升多機多卡高速互聯性能,打造基于自主通用GPU的算力集群方案,持續優化自動混精訓練、流水線并行、張量并行、數據并行以及模型并行等并行加速策略,讓大模型訓練、推理變得更加高效。
大模型應用的海量爆發,天數智芯以持續的研發和技術升級,支撐算力成規模增長的需求。用國際領先的高性能通用GPU產品,不斷升級算力解決方案,適配支持更多參數量、更大數據集、更復雜算法的大模型。