【ITBEAR】近期，一則關于“H100 GPU租賃價格驟降至2美元/小時”的報道在國內引發了廣泛關注。據報道，英偉達H100 GPU自2023年3月上市后，因需求激增一度供不應求，租賃價格從4.7美元/小時飆升至8美元/小時以上。然而，今年以來，H100市場出現“供過于求”現象，租賃價格大幅下跌至2美元左右。
價格下跌的原因多樣：部分公司完成模型訓練后轉售閑置算力；許多企業轉而微調開放模型，降低了算力需求；新創公司專注于構建大規模基礎模型的數量減少；以及H100替代品的出現，如AMD和英特爾的GPU。
追溯報道源頭發現，海外主流媒體及主要科技媒體尚未進行相關報道。原報道《$2 H100s: How the GPU Bubble Burst》出自Latent Space網站，作者為Eugene Cheah。Latent Space是一個聚焦于AI的內容訊息、博客、社區平臺，由swyx及Alessio Fanelli主持，后者為早期風投公司Decibel VC的合伙人和CTO。
Eugene Cheah是初創公司Featherless.Ai的CEO。據其介紹，Featherless.Ai目前托管著全球最大的開源AI模型，提供每月10美元起的無限制請求服務。
報道中配有一幅法國藝術家讓-萊昂?熱羅姆1882年創作的油畫《郁金香狂熱》，描繪了17世紀荷蘭的“郁金香狂熱”投機泡沫。這一歷史事件是否會在AI領域重演，牽動著每一位AI投資者的心，也是此次報道引發關注的原因之一。
從算力租賃商Vast.ai的報價來看，1x H100的一小時租賃價格確實已降至2~3美元區間。
然而，H100租賃價格下跌是否真的意味著“GPU泡沫破滅”呢？一方面，Eugene Cheah指出，“H100價格下跌”更適用于“分化”這一描述，主要集中在小規模集群的租賃價格，而大規模算力集群的價格可能維持在較高水平。
另一方面，電子產品具有更新迭代周期，GPU芯片也不例外。盡管英偉達下一代GPU Blackwell系列曾傳出設計缺陷，但摩根士丹利報告稱，Blackwell的生產正在“按計劃進行”，且未來12個月左右的供應已經售罄。這意味著現在下訂單的客戶要到2025年底才能收到貨，將繼續推動對現有Hopper架構產品的短期需求。
H100租賃價格的波動并非驟然暴跌，而是已有時日。從A100到H100，再到未來的Blackwell，新品出世勢必帶來前代產品的沒落。英偉達CEO黃仁勛也表示，英偉達的持續看漲與互聯網泡沫頂峰時期圍繞思科的狂熱完全不同。他認為，未來將是“高度機器學習”的時代。
“摩爾定律已經基本宣告終結”，黃仁勛表示，為了提供必要的算力以跟上未來計算密集型軟件的步伐，未來4~5年內，現有數據中心將需要價值約1萬億美元的GPU來實現升級。
必須承認的是，“AI泡沫”論的警鐘頻敲，“AI投資回報難達預期”的質疑聲音此起彼伏。一邊是OpenAI抱怨算力上線不及時不夠用、英偉達新品售罄，另一邊是算力租賃價格不斷下降、還有公司“甩賣”GPU。然而，局部的、短期的算力過剩或短缺，似乎已難以代表AI的全盤局面。
