AI 革命如火如荼，為企業(yè)帶來新的機(jī)遇，每次客戶互動(dòng)、每件產(chǎn)品和每項(xiàng)服務(wù)都將融入 AI 并借助 AI 實(shí)現(xiàn)改進(jìn)。多年來，GPU 已經(jīng)證明能夠非常有效地解決某些極為復(fù)雜的深度學(xué)習(xí)問題，而且 NVIDIA 深度學(xué)習(xí)平臺(tái)也逐漸成為業(yè)界標(biāo)準(zhǔn)的訓(xùn)練解決方案，但其推理能力并非廣為人知。早在 2016 年NVIDIA就推出了支持高性能深度學(xué)習(xí)推理加速引擎——TensorRT。TensorRT是一個(gè)高性能的深度學(xué)習(xí)推理（Inference）優(yōu)化器。經(jīng)過幾個(gè)版本的迭代，TensorRT可以為深度學(xué)習(xí)應(yīng)用提供低延遲、高吞吐率的部署推理。為了讓更多的AI開發(fā)者們迅速掌握NVIDIA高性能加速工具TensorRT， 2021 年 3 月 20 日，英偉達(dá)聯(lián)合阿里云和英邁中國，面向全國開發(fā)者們發(fā)起TensorRT加速AI推理Hackathon2021 大賽。
本次大賽吸引了 48 支隊(duì)伍 245 名選手參與報(bào)名，經(jīng)過方案初選，共有 37 支隊(duì)伍入圍決賽，入圍團(tuán)隊(duì)有來自知名互聯(lián)網(wǎng)公司、無人駕駛方案公司、智能家電公司，也有來自高等院校及研究單位。在接下來的 20 多天時(shí)間里，參賽團(tuán)隊(duì)利用TensorRT工具，在阿里云提供的GPU云平臺(tái)上完成優(yōu)化自己所選深度學(xué)習(xí)模型的比賽任務(wù)。同時(shí)，NVIDIA組建了一支由工程師組成的導(dǎo)師團(tuán)隊(duì)，為每個(gè)參賽隊(duì)伍配備了 2 名NVIDIA開發(fā)工程師，在線指導(dǎo)參賽隊(duì)員利用TensorRT優(yōu)化和部署模型。
4 月 30 日，所有參賽隊(duì)伍提交代碼托管平臺(tái)鏈接和項(xiàng)目報(bào)告書，并通過在線的方式向?qū)熝菔景⒗镌破脚_(tái)的數(shù)據(jù)測(cè)試結(jié)果。緊接著，NVIDIA組織核心技術(shù)評(píng)審團(tuán)隊(duì)，通過TensorRT 加速技術(shù)路線比較、性能比較、創(chuàng)新性、可擴(kuò)展性及實(shí)用性等幾個(gè)方面考察每個(gè)團(tuán)隊(duì)的參賽模型。最終于 5 月 21 日公布比賽結(jié)果。
NVIDIA開發(fā)與技術(shù)亞太區(qū)總監(jiān)，同時(shí)也是本次大賽評(píng)審團(tuán)負(fù)責(zé)人李曦鵬說：“第一屆TensorRT黑客松大賽非常精彩，我們看到了不少眼前一亮的模型方案。有幾個(gè)隊(duì)伍甚至發(fā)現(xiàn)了TensorRT 的bug，可以協(xié)助我們完善TensorRT的開發(fā)工作。“
李曦鵬表示，“人工智能應(yīng)用場(chǎng)景創(chuàng)新日新月異，AI模型的開發(fā)與部署也需要注入了新的動(dòng)能。NVIDIA構(gòu)建TensorRT的初衷就是為了進(jìn)一步將人工智能推向更為廣闊的應(yīng)用場(chǎng)景。今天，看到各位參賽選手們基于TensorRT加速引擎挖掘出了更多的潛能和功能需求，我感到非常開心和激動(dòng)。不忘初心，牢記使命，我們希望與更多優(yōu)秀的開發(fā)者們一起，共同推進(jìn)TensorRT的發(fā)展，讓AI在GPU上更容易、更高效地部署?！?/p>
很多參賽隊(duì)伍均表達(dá)了在參賽過程中有導(dǎo)師指導(dǎo)的重要性。
來自佳訊飛鴻智能科技研究院的團(tuán)隊(duì)負(fù)責(zé)人表示：“在NVIDIA導(dǎo)師的幫助下，提高了自己對(duì)TensorRT的認(rèn)識(shí)，對(duì)于模型落地，又有了新的思路?！?/p>
來自上海高重科技有限公司，也是本次大賽一等獎(jiǎng)團(tuán)隊(duì)成員表示：“很不錯(cuò)的一次實(shí)踐體驗(yàn)，感謝NVIDIA的導(dǎo)師和組織者，從前期的基礎(chǔ)知識(shí)培訓(xùn)到項(xiàng)目的具體實(shí)施，對(duì)自己的成長很有幫助。”
來自香港理工大學(xué)的團(tuán)隊(duì)負(fù)責(zé)人表示：“很棒的比賽，讓我們的科研與實(shí)踐能力都得到鍛煉，希望以后還能有更多類似的比賽?！?/p>
關(guān)于本次大賽所有參賽作品可以訪問NVIDIA開發(fā)者社區(qū)微信公眾號(hào)。
