【ITBEAR科技資訊】8月7日消息,近日有消息稱,OpenAI正秘密訓(xùn)練GPT-5大模型,其規(guī)模將是前代產(chǎn)品GPT-4的10倍以上。盡管OpenAI CEO此前否認(rèn)了相關(guān)傳聞,但業(yè)界普遍相信該項目正在進(jìn)行中。不過,GPT-5的訓(xùn)練成本也因此大幅增加,特別是對于用于訓(xùn)練AI的顯卡資源而言,已經(jīng)變得極為稀缺。
據(jù)業(yè)內(nèi)人士推測,GPT-4可能在10000-25000張A100顯卡上進(jìn)行了訓(xùn)練,而GPT-5所需的顯卡數(shù)量則尚不為人所知。一位業(yè)內(nèi)專家馬斯克估計,為了訓(xùn)練GPT-5,可能需要高達(dá)30000-50000張H100顯卡,因為這些顯卡性能更加強大,可以更高效地完成訓(xùn)練任務(wù)。
除了OpenAI,其他知名科技公司如meta、谷歌、微軟、蘋果、特斯拉以及馬斯克本人,也都投身于各種高性能AI項目的研發(fā)。根據(jù)外界分析,這些公司對H100顯卡的總需求估計高達(dá)43.2萬張,總價值超過150億美元。而這還只是針對美國科技行業(yè)的需求估算,實際上,國內(nèi)市場的需求也不容小覷。雖然可能只能購買特供版的A800、H800加速卡,但這并未阻擋國內(nèi)企業(yè)投身于AI大模型的研發(fā),他們不惜加價競購AI顯卡,希望搶占先機。
在當(dāng)下的市場格局中,只有NVIDIA能夠滿足AI顯卡的需求,AMD及Intel的AI顯卡不僅在性能和生態(tài)方面存在問題,而且供應(yīng)量跟不上市場需求。AMD旗下大殺器MI300X顯卡預(yù)計將在年底才能開始出貨,而要到2024年才能進(jìn)行大規(guī)模供貨。