深度學習深刻改變了計算機應用程序的功能與形態(tài),為了加速深度學習模型的推理,NVIDIA 英偉達推出了高性能深度學習推理優(yōu)化器TensorRT。經(jīng)過多年的更新迭代,TensorRT不斷為深度學習提供低延遲、高吞吐率的部署推理,在保持優(yōu)越性能的同時極大提高了易用性,已經(jīng)成為GPU推理計算的必備工具。
然而,隨著版本的迭代,編程最佳實踐也在不斷演化,開發(fā)者們開始探索新的問題:把模型跑在TensorRT上,最高效省力的方式是什么?為了幫助開發(fā)者們解決這一問題,阿里云天池聯(lián)合英偉達在4月份啟動了“英偉達TensorRT加速AI推理Hackathon2022——Transformer模型優(yōu)化賽”,助力開發(fā)者在編程實踐中尋找更高效的解決路徑,同時也讓更多工程師通過大賽實踐更好的掌握TensorRT這一高性能加速工具。
面向全社會開放,更關注選手學習交流過程
大賽面向全社會開放,個人、高等院校、科研單位、企業(yè)、創(chuàng)客團隊等人員均可報名參賽,組隊上限3人。參賽的開發(fā)者將在專家組的指導下在初賽中對給定模型加速,在復賽中則根據(jù)自選模型進行加速,并將得到專家組一對一指導。據(jù)了解,大賽初賽時間為4月2日-5月20日,系統(tǒng)進行實時評測并返回成績;5月20日上午10點,初賽階段未產(chǎn)出成績隊伍將被淘汰,初賽排名前40的隊伍則進入復賽,并于5月23日-6月27日進入復賽調(diào)優(yōu)階段。
大賽還為選手們準備了豐厚的獎品,其中,冠軍1名、亞軍2名、季軍3名分別享有10000元、5000元、3000元人民幣獎勵,優(yōu)勝獎則選取20名,每支團隊均可獲得1000元人民幣獎勵。值得一提的是,阿里員工可參賽排名,但不參與評選及領取獎金,來自外界的開發(fā)者們將有更多機會贏取大賽獎勵。
實際上,除了榮譽與現(xiàn)金獎勵,此次大賽最大的意義在于通過比賽的形式,提高選手的開發(fā)應用能力,因此會在比賽周期中更加重視選手的學習過程以及選手與阿里云、英偉達專家之間的溝通交流。據(jù)了解,初賽剛剛開始,GPU計算專家就與各位參賽選手在活動釘釘群內(nèi)展開了熱火朝天的交流討論,對于選手們遇到的問題,專家也非常重視,給予耐心的指導與解答。
推動行業(yè)交流與人才培養(yǎng),為深度學習領域聚力
談及舉辦TensorRT模型優(yōu)化賽的初衷,英偉達GPU計算高級專家季光博士表示,“TensorRT Hackathon既是一場云集各路開發(fā)高手的競賽,也是一場開發(fā)者與英偉達之間的交流大會。希望參賽選手們通過這項活動,讓自己開發(fā)運用TensorRT的技能更加純熟。”
作為此次大賽的合作方,阿里云同樣憑借自身在公共云計算領域的優(yōu)勢和GPU計算領域積累的應用經(jīng)驗,為本次參賽隊伍提供了強大的技術支持。阿里云天池數(shù)據(jù)科學家陳漠沙對參賽選手也寄予了技術突破的期望,“希望參加本次Hackathon的選手們能開闊視野,了解業(yè)界前沿的技術方向,通過加速語音識別模型-WeNet項目實踐掌握TensorRT編程技術。”
綜上,對參賽者而言,此次Transformer模型優(yōu)化賽大賽不僅可以提高編程實踐能力,解決AI加速發(fā)展過程中的具體應用問題,更是為AI開發(fā)者提供了技術交流與學習的平臺,從而促進行業(yè)深度學習開發(fā)部署人才的培養(yǎng)。
目前,“英偉達TensorRT加速AI推理 Hackathon 2022 —— Transformer模型優(yōu)化賽”報名與初賽已同步開啟。5月15日之前,感興趣的同學在阿里云天池平臺完成個人信息注冊及實名認證,即可報名參賽。快來加入2022年TensorRT Hackathon,一起沖上云端,探索未知吧!
