9 月 5 日消息，在今日舉辦的 2023 百度云智大會(huì)上，百度智能云宣布千帆大模型平臺(tái) 2.0 全面升級(jí)發(fā)布。
據(jù)百度云官方介紹，千帆大模型平臺(tái) 2.0 升級(jí)帶來了多項(xiàng)改進(jìn)：
在工具鏈方面，大模型開發(fā)、訓(xùn)練、部署、應(yīng)用開發(fā)各個(gè)環(huán)節(jié)是緊密結(jié)合的。據(jù)介紹，千帆整套的工具鏈可以無縫銜接全生命周期的各個(gè)業(yè)務(wù)流程，最大化提升效率。以前，技術(shù)團(tuán)隊(duì)一個(gè)月才能調(diào)試、跑通看到大模型的效果，在千帆一站式工具鏈平臺(tái)，當(dāng)天就可以實(shí)現(xiàn)。
在算力效能方面，千帆底層是一套集合了異構(gòu)算力集群、高速互聯(lián)的網(wǎng)絡(luò)、高性能存儲(chǔ)，能夠支撐萬卡規(guī)模訓(xùn)練的 AI 算力基礎(chǔ)設(shè)施，可將大模型訓(xùn)練、推理的成本降到最低。
在數(shù)據(jù)方面，千帆不僅納管大模型，還可增強(qiáng)大模型的能力。本次全新升級(jí)中文增強(qiáng)，可大幅提升大模型中文理解和生成能力，例如 LIama2 的國外大模型，也可實(shí)現(xiàn)中文對(duì)話好的效果。同時(shí)還全面提升訓(xùn)練和推理性能，訓(xùn)練 LlaMA 2 的總體吞吐可以提升 1/4，推理甚至能提升 3 倍。
在企業(yè)級(jí)安全方面，通過千帆的安全機(jī)制，企業(yè)能夠構(gòu)建四層安全防線，全方位保障大模型的內(nèi)容安全、數(shù)據(jù)安全和系統(tǒng)安全。對(duì)合規(guī)要求很高的客戶，千帆支持國內(nèi)、國外主流芯片和操作系統(tǒng)，也支持私有化部署，確保每個(gè)企業(yè)自己的大模型都自主可控。
此外，在 2023 百度云智大會(huì)上，百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示，截至目前百度網(wǎng)盤“云一朵”智能助理累積使用人數(shù)已經(jīng)超過 600 萬。
IT之家注：千帆大模型平臺(tái)是百度智能云推出的一站式企業(yè)級(jí)大模型平臺(tái)，可以為企業(yè)提供大模型開發(fā)全流程工具鏈和整套環(huán)境，號(hào)稱可以“讓企業(yè)高效率、低成本地?fù)肀Т竽Ｐ?rdquo;。
8 月初，千帆大模型平臺(tái)完成第一輪升級(jí)，全面接入了 LLaMA2 全系列、ChatGLM2 等 33 個(gè)大模型，成為國內(nèi)擁有最多大模型的平臺(tái)；同時(shí)，千帆大模型平臺(tái)上線 103 個(gè)預(yù)置 Prompt 模板，覆蓋對(duì)話、編程、電商十余個(gè)場景。
而現(xiàn)在，千帆大模型平臺(tái)納管的國內(nèi)外主流大模型達(dá)到了 42 個(gè)再創(chuàng)新高，還預(yù)置了 41 個(gè)有行業(yè)特色的數(shù)據(jù)集，月活企業(yè)數(shù)已近萬家，覆蓋金融、制造、能源、政務(wù)、交通等行業(yè)的 400 多個(gè)業(yè)務(wù)場景。
【來源：IT之家】
