【ITBEAR科技資訊】9月5日消息,今日在2023年百度云智大會上,百度智能云宣布推出千帆大模型平臺2.0,為企業提供更加高效、低成本的大模型開發解決方案。
在新的千帆大模型平臺2.0中,工具鏈得到了重要改進。從大模型開發、訓練、部署到應用開發,各個環節被無縫地連接在一起,從而大大提高了業務流程的效率。以往需要花費一個月才能看到大模型效果的技術團隊,現在在千帆的一站式工具鏈平臺上,僅需一天即可實現。
在算力效能方面,千帆大模型平臺2.0采用了一套集成的異構算力集群、高速互聯網絡以及高性能存儲系統。這些技術支持能夠承載萬卡規模訓練的AI算力基礎設施,將大模型訓練和推理的成本降低到最低。
此次千帆大模型平臺2.0升級還加強了數據方面的能力。除了管控大模型外,它還能夠增強這些大模型的中文理解和生成能力。例如,Llama2的國外大模型在中文對話方面也能表現出色。同時,訓練和推理性能也得到了全面提升,訓練Llama2的吞吐量提高了1/4,而推理速度甚至提升了3倍。
在企業級安全方面,千帆的安全機制使得企業能夠構建四層安全防線,保障大模型的內容安全、數據安全和系統安全。對于有高合規要求的客戶,千帆支持國內外主流芯片和操作系統,還提供了私有化部署選項,確保企業擁有自主可控的大模型。
值得注意的是,百度智能云在本次百度云智大會上宣布,百度網盤“云一朵”智能助理已經吸引了超過600萬的用戶使用。
據ITBEAR科技資訊了解,在今年8月初,千帆大模型平臺完成了第一輪升級,成功地集成了LLaMA2全系列、ChatGLM2等33個大模型,使其成為國內擁有大模型最多的平臺之一。同時,千帆平臺還上線了103個預置的prompt模板,涵蓋了對話、編程、電商等多個場景。如今,千帆大模型平臺納管的國內外主流大模型已經達到42個,而預置的有行業特色的數據集也達到了41個。這個平臺已經吸引了近萬家企業,覆蓋了金融、制造、能源、政務、交通等400多個業務場景。