【ITBEAR科技資訊】3月25日消息,近日英偉達宣布將從9月開始大規模采購12層HBM3E內存,這項重要合作將由三星電子獨家承擔供貨任務。這一消息在科技界引起了廣泛關注,被視為英偉達進一步加強其AI計算能力的關鍵步驟。
在今年的GTC 2024大會上,英偉達不僅展示了其最新的B200和GB200系列芯片,還由公司CEO黃仁勛親自在三星電子的12層HBM3E實物產品上留下了“黃仁勛認證(JENSEN APPROVED)”的簽名,足以看出英偉達對這款內存產品的高度認可。
然而,并非所有內存制造商都能跟上這一技術趨勢。SK海力士就因部分工程問題,未能及時推出12層HBM3E產品。但該公司并未放棄,計劃從本月末開始批量生產8層HBM3E產品,以期在內存市場保持競爭力。
據ITBEAR科技資訊了解,今年2月27日,三星電子曾官宣成功開發出業界首款36GB 12H(12層堆疊)HBM3E DRAM內存。這款內存產品具有高達1280GB/s的帶寬和迄今為止最大的36GB容量,與8層堆疊的HBM3 8H相比,在帶寬和容量上提升超過50%。更與8層堆疊相比,其AI訓練速度平均提高34%,同時推理服務用戶數量也可增加超過11.5倍。這無疑為英偉達等需要大量內存和計算能力的公司提供了強有力的支持。
英偉達的B200芯片擁有高達2080億個晶體管,采用臺積電4NP工藝制程,支持多達10萬億個參數的AI大模型,單個GPU即可提供20 petaflops的AI性能。結合三星電子的12層HBM3E內存,英偉達有望進一步鞏固其在AI領域的領先地位。