快科技9月7日消息,在今日舉行的2023騰訊全球數(shù)字生態(tài)大會(huì)上,騰訊正式發(fā)布混元大模型”,與此同時(shí),基于該模型的多模態(tài)對(duì)話Bot產(chǎn)品騰訊混元助手微信小程序目前已開(kāi)放內(nèi)測(cè)申請(qǐng)。
目前申請(qǐng)審核需要排隊(duì),審核通過(guò)后將短信提醒用戶。
騰訊混元助手”支持AI問(wèn)答,可以回答各類問(wèn)題,也能處理多種任務(wù),如獲取知識(shí)、解決數(shù)學(xué)問(wèn)題、翻譯、提供旅游攻略、工作建議等,可以看做是微信版ChatGPT”。
據(jù)了解,混元大模型是騰訊全鏈路自研大語(yǔ)言模型,參數(shù)規(guī)模超千億,預(yù)訓(xùn)練語(yǔ)料超2萬(wàn)億tokens(大語(yǔ)言模型文本單位),具有中文創(chuàng)作能力、任務(wù)執(zhí)行能力和復(fù)雜語(yǔ)境下的邏輯推理能力。
騰訊方面表示,對(duì)預(yù)訓(xùn)練算法及策略進(jìn)行了優(yōu)化,讓混元大模型的幻覺(jué)相比主流開(kāi)源大模型降低30%至50%,通過(guò)強(qiáng)化學(xué)習(xí)方法,讓模型學(xué)會(huì)識(shí)別陷阱問(wèn)題,對(duì)難以回答或不應(yīng)回答的問(wèn)題說(shuō)不”。
值得一提的是,騰訊還自研了機(jī)器學(xué)習(xí)框架Angel,能讓訓(xùn)練速度相比業(yè)界主流框架提升1倍,推理速度比業(yè)界主流框架提升1.3倍。
目前已有騰訊云、騰訊廣告、騰訊游戲、騰訊會(huì)議、騰訊文檔、微信搜一搜、QQ瀏覽器等超50個(gè)騰訊業(yè)務(wù)和產(chǎn)品接入騰訊混元大模型測(cè)試,并取得初步效果。