(ChinaZ.com)10月30日 消息:在近日的第二十屆中國計算機大會上,百度首席技術官王海峰表示,百度在3月16日發布知識增強大語言模型文心一言,目前文心一言的基礎模型已迭代到文心大模型4.0版本。知識增強大語言模型從數萬億數據和數千億知識中融合學習,得到預訓練大模型,在此基礎上采用有監督精調、人類反饋強化學習、提示等技術,具備知識增強、檢索增強和對話增強的技術優勢。
王海峰表示,基于更強平臺、更優數據、更好算法,我們訓練出規模更大、效果更好的文心大模型4.0。通過飛槳與文心的協同優化,模型周均訓練有效率超過98%,訓練算法效率提升3.6倍,推理性能提升50倍。文心4.0的理解、生成、邏輯、記憶四大能力顯著提升,其中理解和生成能力的提升幅度相近,而邏輯和記憶能力的提升則更大,邏輯的提升幅度達到理解的近3倍,記憶的提升幅度也達到了理解的2倍多。
公開數據顯示,文心一言面向全社會開放一個多月,用戶規模達到4500萬,開發者5.4萬,場景4300個,應用825個,插件超過500個。飛槳和文心生態愈加繁榮,已凝聚800萬開發者,服務22萬家企事業單位,基于飛槳創建了80萬個模型。