【ITBEAR】9月25日消息,百度在云智大會上隆重推出了其AI基礎設施產品的最新版本,包括百舸AI異構計算平臺4.0和千帆大模型平臺3.0,并分享了一系列AI相關業務的最新進展。其中,文心大模型的日均調用量已突破7億次,相較之前公布的6億數據實現了顯著提升。
百度集團執行副總裁、百度智能云事業群總裁沈抖強調,百舸4.0不僅具備萬卡集群的能力,更進一步實現了10萬卡集群的高效部署和管理。這一成就與阿里云近期宣布的單網絡集群擴展至10萬卡級別形成了有力競爭。
據ITBEAR了解,百度今年持續聚焦大模型的落地應用,百度CEO李彥宏在內部講話中指出,那些具備應用場景并能持續迭代升級的大模型,與其他模型產品的差距將進一步拉大。為此,百度攜手長安汽車、三星等多家知名企業,共同展示了大模型在各行各業的廣泛應用成果。
沈抖透露,過去一年中,百度客戶對于模型的需求急劇增長,所需的集群規模不斷擴大,同時企業對于降低模型推理成本的期望也越來越高。他進一步介紹,百舸4.0能夠將集群的組建時間縮短至最快1小時,這主要得益于將業界流行的訓練工具和框架進行內置的優化措施。
為了應對大模型訓練過程中的故障問題,百舸4.0對故障檢測手段和自動容錯機制進行了全面升級。目前,萬卡集群上的有效訓練時長已達到99.5%,這一數據表現優于行業同類產品。此外,百舸4.0還將主流的長文本推理效率提升了一倍以上,并有效降低了推理成本。
在百度最新的財報電話會上,李彥宏透露,二季度百度智能云AI貢獻的收入占比已提升至9%,相較于上一季度的6.9%有了顯著增長。對于百度而言,模型落地的實際成果比單純的性能提升更具現實意義。
除了百舸平臺的升級,百度還重點介紹了千帆3.0平臺。該平臺上的文心大模型日均調用量已超過7億次,累計幫助用戶精調了3萬個大模型,并開發出70多萬個企業級應用。千帆3.0平臺可調用包括文心系列大模型在內的近百個國內外大模型,同時也支持調用語音、視覺等傳統小模型。
當前,大模型落地的三大主要需求分別是應用開發、模型推理和模型開發。在應用開發層面,企業級RAG和Agent智能體是兩大常見的大模型落地場景。智能體能夠自主思考、任務拆解、方案規劃,并調用工具,全程自主完成,實現了過往需要多個APP才能完成的任務。
李彥宏認為,智能體是大模型發展的下一個重要方向。百度在今年的Create大會上發布了多款與智能體相關的產品,并透露智能體在百度生態的分發量大幅增長,7月日均分發次數超過800萬次,為5月數據的兩倍。
此外,百度旗下數字人平臺和智能客服產品也取得了最新進展。曦靈數字人平臺4.0支持快速生成不同妝造和行業特色的3D數字人形象和視頻,并將3D超寫實數字人的價格大幅降低。智能客服產品“客悅”則在用戶意圖理解、多模態信息交流等方面進行了優化,提升了處理復雜問題的能力。
關鍵詞:#百度# #大模型# #AI基礎設施# #智能體# #文心大模型#