從復旦大學自然語言處理實驗室獲悉,國內首個對話式大型語言模型MOSS已由邱錫鵬教授團隊發(fā)布至公開平臺(https://moss.fastnlp.top/),邀公眾參與內測。
復旦MOSS公開后,引起不少網友關注,由于瞬時訪問壓力過大,MOSS服務器昨晚還被網友擠崩潰了。
從MOSS官網獲悉,官方發(fā)布公告稱,團隊最初的想法只是將MOSS進行內測,以便進一步優(yōu)化,沒想到會引起這么大關注,我們的計算資源不足以支持如此大的訪問量,并且作為學術團隊也沒有相關工程經驗,造成不好的體驗向大家致歉。
據了解,在MOSS完成初步驗證后,團隊會將MOSS的經驗、代碼、模型參數開源供大家參考。
值得一提的是,復旦團隊開發(fā)的這個對話式大型語言模型的名字剛好與《流浪地球》系列電影中的人工智能550W量子計算機MOSS重名。
官方也對這一命名作出解釋,原來是團隊在訓練完成第一代模型時,正好趕上《流浪地球2》的上映,片中MOSS給團隊留下深刻印象,因此便使用了這個名稱來指代模型,可以說也是對《流浪地球》的致敬。
據悉,MOSS和ChatGPT一樣,開發(fā)過程也包括自然語言模型的基座訓練、理解人類意圖的對話能力訓練兩個階段。
不同的是,復旦團隊采用不同的技術路線,通過讓MOSS和人類以及其他對話模型都進行交互,提升學習效率和研發(fā)效率,短時間內就高效完成了對話能力訓練。
來源:快科技