2023年10月5日(北京時間),PyTorch社區正式發布2.1版本,經過PyTorch社區與昇騰的持續合作和共同努力,Pytorch 2.1版本已同步支持昇騰NPU,意味著開發者可直接在PyTorch 2.1上基于昇騰進行模型開發。未來,通過持續的社區技術貢獻,昇騰將與PyTorch社區版本同步演進及發布,共促AI技術創新和開源生態發展。
圖注:PyTorch 社區2.1版本的官方發布聲明中宣布昇騰NPU已成功對接
PyTorch在新版本中發布了更加完善的第三方設備接入機制,該特性由昇騰主導,與PyTorch社區的核心維護者共同完成。基于該特性,三方AI算力設備無需對原有框架代碼進行修改就能對接PyTorch框架,昇騰也提供了官方認證的Torch NPU參考實現,可以指導三方設備便捷接入。
在早前版本中,由于缺少對于昇騰算力設備的原生支持,開發者如果想在主流框架下調用昇騰NPU實現加速,還需要花費數周時間進行模型遷移。而現在,基于新版本,用戶可以在昇騰NPU上直接享受原生PyTorch的開發體驗,獲得可以高效運行在昇騰算力設備上的模型和應用。
基于PyTorch,昇騰已經適配了BLOOM、GPT-3、LLaMA等業界主流大模型,深度優化后性能可持平業界,在最新的PyTorch版本上,昇騰將與社區緊密合作,同步演進,不斷提升模型加速能力。
未來,昇騰將通過持續的技術貢獻,積極推動PyTorch社區多樣性算力改進,優化PyTorch框架,幫助釋放昇騰算力,與PyTorch社區貢獻者一起,共促AI技術創新和開源生態的快速發展。
