在華為開發(fā)者大會(huì)2023(Cloud)上,華為云人工智能領(lǐng)域首席科學(xué)家田奇演講中表示,華為云將踐行AI for Industries,將盤古大模型打造成行業(yè)大模型,助力千行百業(yè)智能化升級(jí)。
華為云人工智能領(lǐng)域首席科學(xué)家田奇
田奇表示,生成式AI是智能化升級(jí)的新浪潮,大模型是生成式AI的核心。但目前全球基于大模型開發(fā)ToB應(yīng)用的企業(yè)還不到三分之一,行業(yè)中的海量業(yè)務(wù)場(chǎng)景迫切需要更多專業(yè)的大模型和專業(yè)的AI應(yīng)用來解決,來彌補(bǔ)通用大模型落地行業(yè)的不足。
他認(rèn)為,通用大模型落地行業(yè)需要解決專業(yè)性、技能和數(shù)據(jù)安全合規(guī)三方面的挑戰(zhàn)。
首先,通用大模型雖然通用性強(qiáng),但專業(yè)性弱,需要具備行業(yè)專業(yè)知識(shí)才能給出專業(yè)準(zhǔn)確的回答。其次,通用大模型雖然知識(shí)面廣,但技能不足,企業(yè)場(chǎng)景復(fù)雜,需要模型具備多種技能。最后,數(shù)據(jù)安全合規(guī)也是一個(gè)挑戰(zhàn),因?yàn)閿?shù)據(jù)是企業(yè)的核心資產(chǎn)之一,訓(xùn)練和使用大模型需要保障企業(yè)的數(shù)據(jù)安全合規(guī)。
為了應(yīng)對(duì)這一挑戰(zhàn),華為云基于實(shí)踐打造了分層解耦的大模型架構(gòu),加速大模型落地千行百業(yè)。該架構(gòu)分為三層:L0、L1和L2。L0層是基礎(chǔ)大模型,包括語言、視覺、多模態(tài)、預(yù)測(cè)、科學(xué)計(jì)算等五大基礎(chǔ)模型,以及基于有監(jiān)督微調(diào)和強(qiáng)化學(xué)習(xí)的上百種能力集。L1層是行業(yè)大模型,基礎(chǔ)大模型學(xué)習(xí)行業(yè)知識(shí),適配行業(yè)工作流程,形成具備專業(yè)能力的行業(yè)大模型。L2層是場(chǎng)景模型服務(wù),提供開箱即用的AI應(yīng)用。
田奇介紹了華為深耕行業(yè),讓盤古大模型從“知”到“行”的四大關(guān)鍵舉措:
沉淀行業(yè)知識(shí):學(xué)習(xí)10多個(gè)行業(yè)的公開數(shù)據(jù)和專有數(shù)據(jù),掌握豐富的行業(yè)知識(shí)和機(jī)理。
淬煉行業(yè)技能:結(jié)合專家和行業(yè)數(shù)字環(huán)境的反饋進(jìn)行強(qiáng)化學(xué)習(xí),以達(dá)到符合行業(yè)應(yīng)用的最佳結(jié)果。
對(duì)話專業(yè)工具:打通10多個(gè)行業(yè)插件,包括數(shù)學(xué)計(jì)算、知識(shí)圖譜、求解器等,讓大模型能重用大量行業(yè)資產(chǎn)、行業(yè)工具。
保障安全合規(guī):提供公有云、混合云、大模型專區(qū)三種部署模式,保障安全部署;建立長(zhǎng)效機(jī)制,確保數(shù)據(jù)集來源和使用合規(guī)、數(shù)據(jù)全生命周期安全、構(gòu)建完整的數(shù)據(jù)標(biāo)注以及審核機(jī)制、構(gòu)建模型合規(guī)使用政策、確保模型使用邊界。
此外,田奇還展示了華為云盤古大模型工程化套件,覆蓋了數(shù)據(jù)處理、模型訓(xùn)練和應(yīng)用開發(fā)三大環(huán)節(jié)。該套件提供了基于模板的Prompt在線輔助撰寫功能、多人Rank在線標(biāo)注和任務(wù)分撥功能等數(shù)據(jù)工程能力;提供了自監(jiān)督預(yù)訓(xùn)練、有監(jiān)督SFT訓(xùn)練、強(qiáng)化學(xué)習(xí)訓(xùn)練等三種工作流,支持一站式開發(fā);提供了多種API和可調(diào)用工具,支撐企業(yè)分鐘級(jí)構(gòu)建大模型原生應(yīng)用。
田奇表示,盤古大模型工程化套件把復(fù)雜的大模型開發(fā)過程,流程化,標(biāo)準(zhǔn)化,簡(jiǎn)單化,幫助行業(yè)用戶一鍵啟動(dòng),實(shí)現(xiàn)一站式開發(fā)。基于華為云盤古大模型工程化套件,完成一個(gè)千億行業(yè)模型端到端的開發(fā),從過去需要5個(gè)月縮短到現(xiàn)在1個(gè)月,整體速度提升5倍。田奇以學(xué)習(xí)和共建語言范式的盤古阿拉伯語大模型、發(fā)現(xiàn)和預(yù)測(cè)自然規(guī)律的盤古氣象大模型以及理解和驅(qū)動(dòng)行業(yè)升級(jí)的盤古鐵路大模型這三個(gè)行業(yè)大模型為例,介紹了華為云如何以沉淀的工作方法和工程套件,為這些行業(yè)帶來的全新革新。