【ITBEAR科技資訊】4月11日消息,meta Platforms于近日發布了其專為AI工作負載設計的定制芯片系列——訓練與推理加速器項目(MTIA)的最新版本。
據meta官方介紹,新一代MTIA相較于初代,在性能上有了顯著的提升,這種提升特別有助于加強內容排名和推薦廣告模型的效果。新一代MTIA的設計理念在于尋求計算、內存帶寬和內存容量三者之間的理想平衡。這一改進不僅優化了芯片的性能,更使得推理任務(即實際推理工作)的執行變得更為順暢。
據ITBEAR科技資訊了解,meta在其官方聲明中強調,實現他們在定制芯片領域的雄心,需要將投資視野擴展到計算芯片以外的領域,包括內存帶寬、網絡以及容量等下一代硬件系統。這表明meta正致力于打造一個全方位的、高效的AI硬件生態系統。
目前,MTIA的主要應用是訓練排名和推薦算法,但meta的目標并不僅限于此。他們期待未來能擴展MTIA的功能,將其應用到生成式人工智能的訓練中,例如訓練其Llama語言模型。
技術規格方面,新一代MTIA芯片配備了256MB的片上內存,主頻達到1.35GHz,采用臺積電5nm工藝制造,相比第一代產品的128MB內存和800MHz主頻有了明顯的改善。根據meta的早期測試結果,新芯片的性能在評估的四種型號中均達到了第一代的三倍。
目前,這款芯片已經在數據中心得到部署,并正積極為AI應用提供服務。隨著技術的不斷進步,我們期待MTIA能在未來發揮出更大的潛力,推動AI領域的發展。