從復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室獲悉,國內(nèi)首個對話式大型語言模型MOSS已由邱錫鵬教授團(tuán)隊(duì)發(fā)布至公開平臺(https://moss.fastnlp.top/),邀公眾參與內(nèi)測。
復(fù)旦MOSS公開后,引起不少網(wǎng)友關(guān)注,由于瞬時訪問壓力過大,MOSS服務(wù)器昨晚還被網(wǎng)友擠崩潰了。
從MOSS官網(wǎng)獲悉,官方發(fā)布公告稱,團(tuán)隊(duì)最初的想法只是將MOSS進(jìn)行內(nèi)測,以便進(jìn)一步優(yōu)化,沒想到會引起這么大關(guān)注,我們的計算資源不足以支持如此大的訪問量,并且作為學(xué)術(shù)團(tuán)隊(duì)也沒有相關(guān)工程經(jīng)驗(yàn),造成不好的體驗(yàn)向大家致歉。
據(jù)了解,在MOSS完成初步驗(yàn)證后,團(tuán)隊(duì)會將MOSS的經(jīng)驗(yàn)、代碼、模型參數(shù)開源供大家參考。
值得一提的是,復(fù)旦團(tuán)隊(duì)開發(fā)的這個對話式大型語言模型的名字剛好與《流浪地球》系列電影中的人工智能550W量子計算機(jī)MOSS重名。
官方也對這一命名作出解釋,原來是團(tuán)隊(duì)在訓(xùn)練完成第一代模型時,正好趕上《流浪地球2》的上映,片中MOSS給團(tuán)隊(duì)留下深刻印象,因此便使用了這個名稱來指代模型,可以說也是對《流浪地球》的致敬。
據(jù)悉,MOSS和ChatGPT一樣,開發(fā)過程也包括自然語言模型的基座訓(xùn)練、理解人類意圖的對話能力訓(xùn)練兩個階段。
不同的是,復(fù)旦團(tuán)隊(duì)采用不同的技術(shù)路線,通過讓MOSS和人類以及其他對話模型都進(jìn)行交互,提升學(xué)習(xí)效率和研發(fā)效率,短時間內(nèi)就高效完成了對話能力訓(xùn)練。
來源:快科技