【ITBEAR】9月2日消息,在AI推理芯片市場上,盡管英偉達依然保持著領先地位,但新的挑戰者正不斷涌現,嘗試在這塊領域分一杯羹。最近ML Commons發布的AI推理競賽成績單顯示,多家公司和創新團隊正通過獨特的技術路徑,對英偉達的霸主地位發起挑戰。
據ITBEAR了解,新一輪的MLPerf Inference v4.1競賽吸引了包括AMD、谷歌、UntetherAI以及英偉達等多家技術巨頭和新興企業參與。在備受關注的封閉數據中心類別中,英偉達的Blackwell芯片在LLM問答任務上展現了卓越性能,比先前的芯片性能提升了2.5倍。然而,其他參賽者也表現出強勁實力,不容忽視。
UntetherAI憑借其speedAI240預覽芯片在圖像識別任務中與英偉達的H200芯片性能相當,展現了其內存內計算技術的潛力。該技術通過減少數據傳輸時間和資源消耗,顯著提高了能效。在邊緣計算類別中,UntetherAI的芯片更是以低能耗和快速處理速度脫穎而出。
此外,Cerebras和Furiosa兩家公司雖然未參與此次MLPerf競賽,但它們也分別推出了新的推理芯片,展示了不同的技術創新路徑。Cerebras通過制造大型芯片來提升內存帶寬,進而增強AI推理能力;而Furiosa則通過實現更通用的矩陣乘法原語,來提高AI推理的效率和靈活性。
這些新興技術和產品的出現,不僅為AI推理市場注入了新的活力,也為用戶提供了更多的選擇。未來,隨著技術的不斷進步和市場競爭的加劇,我們有理由期待更多創新的AI推理解決方案涌現。