【ITBEAR科技資訊】2月27日消息,近日有報(bào)道稱,英偉達(dá)針對人工智能(AI)和高性能計(jì)算(HPC)推出的H100 GPU交貨周期出現(xiàn)顯著縮短,由此前的8-11個月銳減至僅3-4個月。這一變化導(dǎo)致部分囤積該芯片的公司開始尋求出售其過剩的H100 80GB處理器,原因在于如今從亞馬遜云服務(wù)、谷歌云及微軟Azure等大型云服務(wù)提供商處租用芯片已變得更為便捷。
據(jù)ITBEAR科技資訊了解,The Information的一份報(bào)告指出,鑒于H100 GPU稀缺性的降低以及維護(hù)未使用庫存所帶來的高昂成本,部分公司開始轉(zhuǎn)售其手中的H100 GPU或減少相關(guān)訂單。這與去年眾多企業(yè)爭相搶購英偉達(dá)Hopper GPU的情況形成了鮮明對比。盡管芯片的可用性有所提升且交貨周期大幅縮短,但報(bào)告仍指出,AI芯片的需求依然旺盛,尤其是對于需要訓(xùn)練大型語言模型(LLM)的公司,如OpenAI等。
云服務(wù)提供商(CSP)如亞馬遜AWS等提供的按需租用H100 GPU服務(wù),在一定程度上緩解了需求壓力,縮短了用戶的等待時間。然而,由于訓(xùn)練大型語言模型需要大規(guī)模的GPU集群,這類公司仍面臨著供應(yīng)瓶頸的挑戰(zhàn),有時甚至需要等待數(shù)月才能獲得所需的處理能力。因此,盡管交貨周期縮短,但英偉達(dá)H100等處理器的市場價(jià)格并未出現(xiàn)明顯下降,公司依然能夠保持較高的利潤率。
隨著芯片供應(yīng)瓶頸的逐步緩解,買家的行為也在發(fā)生變化。企業(yè)開始更加注重價(jià)格和采購/租賃的合理性,傾向于選擇規(guī)模更小的GPU集群,并更加關(guān)注其業(yè)務(wù)的經(jīng)濟(jì)可行性。此外,隨著替代方案(如AMD或AWS的處理器)在性能和軟件支持方面的不斷提升,以及企業(yè)在AI處理器支出方面的日益謹(jǐn)慎,AI領(lǐng)域有望迎來一個更加平衡的市場格局。