【ITBEAR】9月25日消息,今日,百度云智大會盛大召開,會上,百度智能云宣布了一個重要消息:其自主研發的百舸AI異構計算平臺已成功升級至4.0版本,標志著百度在AI技術領域邁出了新的一步。
據ITBEAR了解,此次百舸4.0版本的重點升級在于“多芯混訓”能力,實現了在萬卡規模集群上高達95%的多芯混合訓練效能,極大提升了AI模型的訓練效率。此外,在集群部署環節,升級后的百舸平臺展現了驚人的速度,能夠將萬卡集群的運行準備時間從數周縮短至僅需1小時,極大地節省了時間和人力成本。
針對大模型訓練過程中常見的故障問題,百舸4.0也進行了全面的優化。通過升級故障檢測手段和自動容錯機制,百舸4.0有效降低了故障發生的頻次,大幅減少了集群故障的處理時間,確保了在萬卡集群上實現超過99.5%的有效訓練時長。
在模型推理方面,百舸4.0也進行了整體的優化,不僅提升了推理速度,還降低了成本。特別是長文本推理效率,相較于之前版本,提升了1倍以上,為用戶帶來了更加高效、經濟的AI應用體驗。
此次百舸AI異構計算平臺的升級,無疑將進一步推動百度在AI領域的發展,為行業帶來更多創新和應用的可能性。
關鍵詞:#百度智能云#、#百舸AI異構計算平臺#、#多芯混訓#、#模型推理#、#AI技術#