深度學(xué)習深刻改變了計算機應用程序的功能與形態(tài)，為了加速深度學(xué)習模型的推理，NVIDIA 英偉達推出了高性能深度學(xué)習推理優(yōu)化器TensorRT。經(jīng)過(guò)多年的更新迭代，TensorRT不斷為深度學(xué)習提供低延遲、高吞吐率的部署推理，在保持優(yōu)越性能的同時(shí)極大提高了易用性，已經(jīng)成為GPU推理計算的必備工具。
然而，隨著(zhù)版本的迭代，編程最佳實(shí)踐也在不斷演化，開(kāi)發(fā)者們開(kāi)始探索新的問(wèn)題：把模型跑在TensorRT上，最高效省力的方式是什么？為了幫助開(kāi)發(fā)者們解決這一問(wèn)題，阿里云天池聯(lián)合英偉達在4月份啟動(dòng)了“英偉達TensorRT加速AI推理Hackathon2022——Transformer模型優(yōu)化賽”，助力開(kāi)發(fā)者在編程實(shí)踐中尋找更高效的解決路徑，同時(shí)也讓更多工程師通過(guò)大賽實(shí)踐更好的掌握TensorRT這一高性能加速工具。
面向全社會(huì )開(kāi)放，更關(guān)注選手學(xué)習交流過(guò)程
大賽面向全社會(huì )開(kāi)放，個(gè)人、高等院校、科研單位、企業(yè)、創(chuàng )客團隊等人員均可報名參賽，組隊上限3人。參賽的開(kāi)發(fā)者將在專(zhuān)家組的指導下在初賽中對給定模型加速，在復賽中則根據自選模型進(jìn)行加速，并將得到專(zhuān)家組一對一指導。據了解，大賽初賽時(shí)間為4月2日-5月20日，系統進(jìn)行實(shí)時(shí)評測并返回成績(jì)；5月20日上午10點(diǎn)，初賽階段未產(chǎn)出成績(jì)隊伍將被淘汰，初賽排名前40的隊伍則進(jìn)入復賽，并于5月23日-6月27日進(jìn)入復賽調優(yōu)階段。
大賽還為選手們準備了豐厚的獎品，其中，冠軍1名、亞軍2名、季軍3名分別享有10000元、5000元、3000元人民幣獎勵，優(yōu)勝獎則選取20名，每支團隊均可獲得1000元人民幣獎勵。值得一提的是，阿里員工可參賽排名，但不參與評選及領(lǐng)取獎金，來(lái)自外界的開(kāi)發(fā)者們將有更多機會(huì )贏(yíng)取大賽獎勵。
實(shí)際上，除了榮譽(yù)與現金獎勵，此次大賽最大的意義在于通過(guò)比賽的形式，提高選手的開(kāi)發(fā)應用能力，因此會(huì )在比賽周期中更加重視選手的學(xué)習過(guò)程以及選手與阿里云、英偉達專(zhuān)家之間的溝通交流。據了解，初賽剛剛開(kāi)始，GPU計算專(zhuān)家就與各位參賽選手在活動(dòng)釘釘群內展開(kāi)了熱火朝天的交流討論，對于選手們遇到的問(wèn)題，專(zhuān)家也非常重視，給予耐心的指導與解答。
推動(dòng)行業(yè)交流與人才培養，為深度學(xué)習領(lǐng)域聚力
談及舉辦TensorRT模型優(yōu)化賽的初衷，英偉達GPU計算高級專(zhuān)家季光博士表示，“TensorRT Hackathon既是一場(chǎng)云集各路開(kāi)發(fā)高手的競賽，也是一場(chǎng)開(kāi)發(fā)者與英偉達之間的交流大會(huì )。希望參賽選手們通過(guò)這項活動(dòng)，讓自己開(kāi)發(fā)運用TensorRT的技能更加純熟。”
作為此次大賽的合作方，阿里云同樣憑借自身在公共云計算領(lǐng)域的優(yōu)勢和GPU計算領(lǐng)域積累的應用經(jīng)驗，為本次參賽隊伍提供了強大的技術(shù)支持。阿里云天池數據科學(xué)家陳漠沙對參賽選手也寄予了技術(shù)突破的期望，“希望參加本次Hackathon的選手們能開(kāi)闊視野，了解業(yè)界前沿的技術(shù)方向，通過(guò)加速語(yǔ)音識別模型-WeNet項目實(shí)踐掌握TensorRT編程技術(shù)。”
綜上，對參賽者而言，此次Transformer模型優(yōu)化賽大賽不僅可以提高編程實(shí)踐能力，解決AI加速發(fā)展過(guò)程中的具體應用問(wèn)題，更是為AI開(kāi)發(fā)者提供了技術(shù)交流與學(xué)習的平臺，從而促進(jìn)行業(yè)深度學(xué)習開(kāi)發(fā)部署人才的培養。
目前，“英偉達TensorRT加速AI推理 Hackathon 2022 —— Transformer模型優(yōu)化賽”報名與初賽已同步開(kāi)啟。5月15日之前，感興趣的同學(xué)在阿里云天池平臺完成個(gè)人信息注冊及實(shí)名認證，即可報名參賽。快來(lái)加入2022年TensorRT Hackathon，一起沖上云端，探索未知吧！
