12月30日,北京智源人工智能研究院(以下簡稱“智源研究院”)自然語言處理(簡稱NLP)重大研究方向前沿技術開放日活動成功舉辦。24位NLP學術明星,20多項前沿報告、10余項最新研究成果“組團”亮相。活動中重磅發布了大模型評測的“命題”新方案——智源指數,更有OpenHowNet前沿技術研討。新老學者群星匯聚,研究探討多點開花,現場學術氣氛濃厚。
智源指數CUGE發布儀式
蒞臨現場指導及進行成果報告與前沿分享的“學術大咖”包括戴瓊海院士、李宇明教授、孫茂松教授、楊爾弘教授、穗志方教授、李涓子教授、劉洋教授、萬小軍教授、劉知遠副教授等。
清華大學教授、智源研究院自然語言處理(NLP)方向首席科學家孫茂松
活動現場大咖云集
業界學者高度肯定了智源學者在NLP方向所取得的成果。
北京語言大學教授、國家語言文字工作委員會原副主任李宇明教授在致辭中指出:“我特別贊賞智源(NLP重大研究方向)的開放態度,匯集眾智,推進中文信息處理工作前進,促進中文在人類社會中發揮更大的作用。”
北京語言大學李宇明教授
智源研究院常務副院長曹崗則表示:一起協作、共同貢獻,人工智能領域各單位與學者們的開放心態與探索精神,是科研發展了不起的源動力。未來,希望攜手大家,共創更高價值。
智源研究院常務副院長曹崗
發布智源指數CUGE
推出大模型評測“命題”新方案
人工智能大模型時代,評測基準成為大模型發展的風向標。從扁平到全面系統,從簡化到多重維度,智源指數CUGE旨在嘗試為大模型評測設計一張全面評估綜合能力的新考卷。
清華大學副教授、智源青年科學家、
智源指數建設骨干成員劉知遠
清華大學教授、中國人工智能學會理事長戴瓊海院士對智源指數在創新方向上的嘗試給予了肯定,他表示:“祝賀孫茂松教授帶領智源NLP學者共同建立了機器中文語言能力評測基準‘智源指數’,這對中文信息處理乃至我國人工智能的發展,都具有重要的里程碑意義。”
中國工程院院士、清華大學教授、中國人工智能學會理事長戴瓊海院士
在基準框架上,不同于傳統將常用數據集扁平組織的方式,智源指數根據人類語言考試大綱和當前NLP研究現狀,以語言能力-任務-數據集的分層框架來選擇和組織數據集,涵蓋7種重要的語言能力、17個主流NLP任務和19個代表性數據集,全面均衡,避免“偏科選拔”。
在評分策略上,智源指數能更好展現模型不同維度的模型語言智能差異,依托層次性基準框架,提供不同層次的模型性能評分,包括在數據集、任務和語言能力等,系統性大大加強。
全面系統、多維度的智源指數
為了促進智源指數的共建共享,提升智源指數的易用性,本次活動還同時發布了在線評測平臺和公開排行榜,支持多種展示模式,包含綜合榜、精簡榜和單數據集榜,方便用戶快速多角度了解模型和數據集特性及最新動態。
發布僅是起點,發展還需生態共建——劉知遠副教授說:”基于單數據集的榜單能力,未來智源指數將定期吸納最新優秀數據集。同時,我們還將依托智源研究院、智源社區的力量,建立用戶面向數據集和評測結果的反饋、討論機制,構建起中文高質量數據集社區,推動中文自然語言處理的發展。”
孫茂松領銜,10余項豐碩成果
智源NLP研究方向探索與落地并重
除“智源指數”外,本次活動中還進行了“自然語言處理評測中的問題與對策”“邁向通用連續型知識庫”“文本復述生成”等研究成果的階段性匯報,內容涵蓋預訓練模型、知識計算、人機對話、文本生成等10余項重點NLP科研問題。
自然語言處理(NLP)是智源重大學術研究方向之一,由清華大學孫茂松教授任該方向首席科學家,北京語言大學楊爾弘教授任項目經理,學者包括李涓子、穗志方、劉洋、萬小軍、何曉冬,青年科學家包括劉知遠、韓先培、孫栩、嚴睿、張家俊、趙鑫、楊植麟、李紀為等。
自然語言處理方向智源學者
在智源研究院的支持下,自然語言處理重大研究方向學者團隊積極探索自然語言處理新格局,通過大數據與富知識雙輪驅動,并通過與跨模態信息進行交互,顯著提升以自然語言為核心的中文語義理解與生成能力。
智源學者探索的自然語言處理新范式
落地應用方面,清華大學李涓子教授團隊構建的“多模態北京旅游知識圖譜”可以為路徑規劃和景點信息查詢等功能提供數據支持,為游客進行旅游行程的規劃。
京東集團副總裁、智源研究員何曉冬博士團隊針對大規模與訓練語言模型在長文本理解任務上的不足,通過從局部視角到全局視角的重復閱讀方法(Read-over-Read,RoR),提出了一種基于多視角的機器閱讀理解模型,顯著地提高了針對長文本的閱讀理解能力。
清華大學教授、智源研究員李涓子教授
多樣性文本復述方面,北京大學王選計算機研究所研究員、智源研究員萬小軍團隊的科研成果實現了兩個“業界首個”:成功構建了業界首個面向學術文獻領域的文本復述數據集ParaSCI,提出了多樣化語句復述模型DivGAN,并提出業界首個篇章復述模型-CoRPG。該系列研究分別為文本復述領域提供了基礎數據資源、方法模型以及新的思路,從而推動文本復述技術的應用落地。
北京大學王選計算機研究所研究員、智源研究員萬小軍
預訓練大模型方面,為突破預訓練語言模型(Pretrained Language Model, PLM)的高計算成本、高設備需求、難應用適配等瓶頸問題,清華大學副教授、智源青年科學家劉知遠等提出了面向PLM的全流程高效計算框架,并基于此框架構建了以中文為核心的超大規模預訓練語言模型CPM-2,具有1980億參數,覆蓋多語言、兼顧語言理解和語言生成的功能,并研制了BMInf、OpenPrompt等配套開源工具。
趙鑫、韓先培、張家俊等7位青年科學家,也帶來關于預訓練模型、多模態語言等方面的最新成果分享,帶來新一代學者的前沿思考。
青年科學家的最新成果分享
近百位學者,六大研究方向
智源模式致力于提升創新概率
絕大多數突破性科研成果都是偶然事件,智源研究院的重要使命就是就是提升突破性科研成果出現的概率。
作為代表性創新型研究院,智源研究院力求通過構筑協作社區,打造用于未來研究的計算和數據平臺,更重要的是,集結最優秀的同行,專注未來可能產生原始創新和長期影響的領域等一些機制和努力,讓創新系統更高效運行。
其中,人是一切的核心,優秀人才是成功概率的最大保障,NLP研究方向僅是智源欣欣向榮學術生態的一個切面。
為了團結大家做大事,智源研究院于2019年4月啟動“智源學者計劃”,匯聚近百位一流人工智能學者,營造國際級活躍、前沿、富有影響力的學術與創新生態。智源研究院堅持鼓勵自由探索,堅持求真務實、不論資排輩的人才發展模式,堅持以“代表作”和“小同行評價”遴選人才。
活動現場,與會人員認真聆聽報告
目前,“智源學者計劃”已在人工智能的數理基礎、人工智能的認知神經基礎、機器學習、自然語言處理、智能信息檢索與挖掘、智能體系架構與芯片幾大研究方向,支持學者進行自由探索,提供碰撞思想、發現問題、尋找協作伙伴的大平臺。
此外,智源研究院尤其注重把更多的年輕人送進“名人堂”,推崇青年人才挑大梁、當主角,發揚青年學者的科學創新與開拓魄力。“智源學者計劃”中,38 歲以下的青年科學家有40 位,張祥雨、袁洋、黃高三位學者在入選時都不足30歲。
目前,智源研究院堅持“自由探索+目標導向”并重,取得了“悟道”大模型等多項首發、原創級重大成果,已累計支持——發表國際人工智能頂會頂刊論文1470余篇,申請中國專利82件,獲得發明專利授權49件,登記軟件著作權24項。
智源研究院
未來,智源研究院將通過持續的機制創新和服務保障,以“功成不必在我”的理念,建立起更有效的系統化研究環境,促進智源學者們不斷成就新發明、新突破,共同創造經得起時間檢驗的人工智能技術創新和產業“代表作”。
