9月7日,2023騰訊全球數字生態大會于深圳舉辦。會上,騰訊首次對外公布騰訊混元大模型進展,并宣布從技術底座、平臺能力、智能應用三大維度升級MaaS能力。基于自研騰訊混元大模型,同時支持業內20余款主流開源模型,助力客戶構建專屬大模型及智能應用,加速模型產業落地,推進“效能革命”。
升級后,騰訊云行業大模型精選商店將進一步擴容,能為客戶提供不同規模的模型服務;大模型訓練、精調工具鏈,可以幫助客戶更快、更低成本地打造“更實用”的專屬模型;同時,依托騰訊多元的PaaS、SaaS產品矩陣“試煉場”,用戶也能夠快速裝備即插即用的模型能力。
會上,騰訊云與信通院還共同發布了《行業大模型標準體系及能力架構研究報告》,參考騰訊云在行業大模型產業應用領域的實踐和經驗,為客戶構建行業大模型提供了標準化流程、綜合評估方法,以便更好地幫助行業伙伴構建專屬大模型。
騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生表示,騰訊著眼于產業實踐建設行業大模型的思路已得到了業界的普遍認可。通過“行業大模型+企業數據精調”方案,騰訊幫助產業伙伴打造適合自己的大模型產品,解決企業應用大模型過程中面臨的專業度、準確度、數據安全、成本等諸多挑戰。技術變革和客戶需求的快速發展,推動了騰訊云MaaS服務能力快速迭代升級。
騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生
開放多元基底模型,騰訊云MaaS持續推進“效能革命”
會上,騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲認為,當前企業在大模型領域探索已過“嘗鮮期”,產業實踐將成為檢驗大模型價值的重要標準,大模型在產業領域應用的“縱深度”也將持續拓展。基于此,騰訊云行業大模型從技術底座、平臺能力、智能應用三大層面升級,加速模型落地進程。
技術底座方面,由騰訊自研的混元通用大模型首次公開亮相。吳運聲表示,騰訊混元大模型是騰訊云行業大模型的堅實底座,其不僅有出色的中文創作能力,還具備在復雜語境下的邏輯推理能力以及可靠的任務執行能力,并已在騰訊內部多個產品和業務中成功接入并獲得顯著成果,并將通過騰訊云陸續面向行業客戶開放。
騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲
而為了滿足企業、開發者多元的模型需求,騰訊云還率先宣布上架和支持開源模型,接入了Llama 2、Falcon、Bloom等20多個行業最新主流的開源模型,覆蓋智能對話、文本生成、寫作等豐富應用場景。客戶可利用騰訊云TI平臺對上述開源模型進行訓練,基于Jupyter Notebook快速啟動模型精調,低代碼操作完成模型部署。
同時,騰訊云也對平臺能力進行了大幅提升。升級后的TI平臺工具鏈,接入騰訊云HCC高性能計算節點及星脈高性能計算網絡,可提供3.2Tbps的網絡帶寬。全新升級的太極Angel大模型加速框架,較行業常用方案性能提升30%以上。全新的工具鏈,具備高性能的大模型精調與部署能力,覆蓋大模型開發、應用全生命周期,讓客戶只需加入自己獨有的場景數據,即可在短時間內精調出專屬的模型方案。
此外,企業也可接入騰訊升級后的SaaS、PaaS產品矩陣,通過豐富的、即插即用的智能應用,快速裝備模型能力。升級后的智能客服機器人擴展了知識邊界,大幅提升接待對話體驗,減少運營成本;企點分析AI助手,通過“對話式數據分析、輔助分析模型配置更新、智能結論提取、一鍵生成分析報告”等核心能力,改造傳統分析流程,提升企業數據的分析洞察產出效率;全新發布AI大模型加持的“通用口型”版小樣本數智人,無需訓練,上傳素材1小時內即可獲取專屬數智分身。
攜手客戶伙伴,助力20+行業提質增效
會上,吳運聲表示,“騰訊云將不斷完善MaaS能力,與廣大客戶和合作伙伴攜手,共同迎接AI大模型時代的‘效能革命’。”作為行業大模型“實戰派”,騰訊云目前已落地文旅、泛互、零售、能源、醫療等20多個行業,并覆蓋生產、銷售、客服等多個環節,并已經在頭部客戶中打造多個最佳實踐。
比如某科技公司搭建大規模建模平臺時,面臨人力、物力、資源等缺乏問題。騰訊云MaaS為其提升了自動駕駛領領域的2D感知、3D感知類建模任務的訓練性能,實現輕量化運維和接入。提供高性能算力集群及訓練加速能力,訓練性能提升40%;打通高性能分布式文件存儲和高性能計算節點,大幅提升算力資源利用率。
文旅領域是客服應用的集中場景,對模型應用的效率有強烈的提升需求。騰訊云聯合某線上旅游OTA公司,共同探索文旅行業大模型的應用,改善傳統智能客服對話配置中知識維護量大、耗時長、人力成本高等痛點。精調后的客戶專屬模型,無需配置對話流程,即可實現端到端解決業務問題。提升任務完成率,降低對話構建成本。
內容創作對大模型的生成速度、理解能力要求高,是最能驗證大模型場景廣度的領域之一。騰訊云MaaS助力閱文集團文生圖、圖生圖的推理部署和加速。C端用戶應用需要提供高QPS、低模型耗時的方案,閱文基于騰訊云TI平臺搭載的Angel推理加速引擎,推理能力平均提升30%,將文生文領域成本降低到原來的1/4。此外,TI平臺提供動態batch和自動服務調度機制,大幅提高了服務吞吐量,模型優化和部署模塊一鍵加速和發布模型,極大減輕了服務部署的維護成本。
而政務領域則需要大模型深入應用場景,更加專業、可靠。騰訊云助力某稅務部門打造專屬政務大模型,解決傳統智能客服知識邊界受限,問題攔截率、覆蓋率低,政策法規、辦事指南的持續迭代造成后續運營維護成本高的問題。升級后的客服系統,從知識采集到知識運營均實現智能化升級,成為“稅務領域的知識專家”和“緊跟法規、指南的稅務助手”。
積極參與標準制定,助推行業大模型高質量發展
行業大模型的落地與拓展,需要標準化的流程與評估體系。會上,騰訊云與信通院共同發布了《行業大模型標準體系及能力架構研究報告》(以下簡稱“報告”),幫助行業伙伴更好地構建專屬大模型。
《行業大模型標準體系及能力架構研究報告》發布
吳運聲介紹,報告內包括行業需求分析與資源評估、行業數據與模型共建、行業精調與優化部署等關鍵環節,能夠幫助行業伙伴洞悉行業應用場景、模型開發、模型能力、模型應用、模型運營、安全可信等維度,從而對大模型進行綜合評估。
中國信息通信研究院云計算與大數據研究所副所長魏凱表示,信通院作為國家信息通信領域的重要研究機構,一直關注AI技術的發展和應用,特別是大模型技術的創新和推廣。信通院將與騰訊云深入合作,共同推進行業大模型標準體系的建設和完善,為產業智能化發展提供技術支撐和服務。
“我們希望行業大模型標準體系及能力架構研究,能夠幫助行業伙伴解決如何將大模型能力“應用”到自身的行業和場景里的問題,可以更有效的解決成本、數據、安全,合規等大模型實際落地難題。通過建立標準體系,為行業大模型的建設和應用提供指引和支持。”騰訊法務副總裁江波提到。
為千行百業輸送行業大模型解決方案的同時,騰訊一直積極參加大模型標準建設。2020年,騰訊被選舉為全國信標委人工智能分委會委員兼副秘書長單位,作為核心成員,承擔了更多標準制定工作以及技術引領作用。前不久,騰訊云還聯合中國信通院發起行業大模型生態計劃,并牽頭國內首個金融行業大模型標準制訂,為金融行業智能化的高質量規范化發展提供重要支撐。
更強的能力、更高的效率、更廣的場景、更深的應用,騰訊云行業大模型不斷迭代,通過MaaS能力助力產業提質增效。未來,騰訊云將持續升級產品、技術能力,幫助千行百業更高效率、高品質、低成本地創建和部署更實用的AI應用,助力更多實體實現高質量的數智化轉型升級。