日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:52000
  • 待審:37
  • 小程序:12
  • 文章:1037587
  • 會員:756

在人工智能浪潮里掘金的“鏟子”成了硬通貨。

GPU(圖形處理器)是發展人工智能的關鍵芯片, 科技巨頭英偉達憑借其GPU在人工智能芯片市場一家獨大,占據約80%的份額。

當地時間2024年3月19日,美國加州圣何塞,英偉達2024 GTC AI大會舉行,正式推出名為Blackwell的新一代AI圖形處理器(GPU)。視覺中國 資料圖

AI芯片價格高昂,依然稀缺,Meta、谷歌、超威半導體(AMD)、英特爾、微軟等科技巨頭紛紛挑戰英偉達的市場統治,推出對標產品。芯片大戰愈演愈烈,誰是潛在顛覆者?

芯片大戰愈演愈烈

H100芯片(英偉達于2022年公布的一款GPU芯片)供不應求,雖然英偉達今年3月又推出了H100的繼任者——新一代人工智能芯片B200。但大大小小的企業都在尋求替代英偉達的GPU,試圖破解AI芯片市場的一家獨大的現狀。

當地時間4月10日,Meta公布新一代Meta訓練和推理加速器(MTIA)的計算和內存帶寬是上一代解決方案的2倍多。最新版本芯片有助于驅動Meta在Facebook和Instagram上的排名和推薦廣告模型。

就在前一天,英特爾也公布了人工智能芯片細節對抗英偉達。英特爾用于AI訓練和推理的Gaudi 3加速器預計可大幅縮短70億和130億參數Llama2模型以及1750億參數GPT-3模型的訓練時間。英特爾表示,Gaudi 3芯片比英偉達H100訓練特定大語言模型的速度快50%。

谷歌專用于訓練生成式AI大模型的下一代加速器TPU v5p也通過谷歌云服務上線。微軟首款人工智能芯片Maia 100預計今年上市。

去年12月,AMD推出了MI300人工智能加速器系列產品。其中MI300X擁有1530億個晶體管,是適用于人工智能計算的高級GPU,專為大語言模型訓練而設計,MI300A將圖形處理功能與標準中央處理器(CPU)相結合,面向人工智能和科學研究。AMD表示,其MI300人工智能加速器正成為其歷史上營收增長最快的產品,稱其MI300X芯片的推理性能優于英偉達H100。

“谷歌的TPU已經迭代到了第五代,展現出了非常強大的芯片開發能力,并且結合自己對業務線的理解,能夠定義出效率更高的產品。”耀途資本執行董事于光日前對澎湃科技(www.thepaper.cn)評價說。至于英偉達的追趕者AMD也是一個大玩家,AMD作為一個老牌的CPU和GPU廠商,過去在服務器CPU領域形成了追趕反超,如今發力AI芯片,是英偉達較為強勁的競爭對手之一。

也有科技投資人對澎湃科技表示,英特爾在AI芯片方面也一直落后于英偉達。

英特爾2019年以來一直在制造Gaudi芯片,去年12月在“AI無處不在”(AI Everywhere)發布會上發布了Gaudi3芯片。但羅森布拉特證券分析師漢斯·莫塞曼(Hans Mosesmann)表示,“除了英特爾,AI似乎無處不在。”英國投資服務機構AJ Bell投資總監拉斯·莫爾德(Russ Mould)則表示,隨著英偉達和AMD等公司的芯片在AI行業發揮越來越重要的作用,英特爾有被甩在后面的危險。

“英偉達的技術、產品和業務處于競爭最為激烈的領域,其特點是技術變革迅速和行業標準不斷發展。”深圳中歐基金投資有限公司(即“中歐資本”)董事長張俊對澎湃科技(www.thepaper.cn)表示,未來競爭將更加激烈,競爭來自現有競爭對手和新市場進入者。尤其是新進入者,也是潛在顛覆者。

與其等待大公司犯錯,不如創新

英偉達的AI芯片已經成為硬通貨。

于光表示,英偉達在AI芯片上的布局深厚,產品適配靈活。“上一波AI浪潮中,出現了各種創新架構的AI芯片玩家,試圖顛覆英偉達,但是都沒有取得很廣泛的成功。最后還是英偉達最先趕上了大模型這波機會。”從這一波浪潮來看,已經有很多玩家希望去做針對當前大模型更加優化的AI芯片,但要說顛覆,依然很難。目前來看,AI企業還無法擺脫英偉達這個角色,“基本上還得依賴英偉達的GPU芯片乃至整體解決方案。”

“從來沒有哪一個領域的芯片有今天AI芯片這么大的市場,大到夸張。”國產GPU行業資深人士薛翔告訴澎湃科技(www.thepaper.cn),“芯片行業有一個說法,一個領域的芯片,只能有兩家公司活得很好,第一家占80%市場份額,第二家占20%。”

過去,英特爾的CPU市場大,但單價低;而英偉達H100芯片單價超過了20萬元人民幣。特斯拉CEO馬斯克曾透露,特斯拉今年僅在英偉達AI芯片上就要花5億美元。這看似是一筆巨款,但實際上只相當于大約1萬塊H100。“很多公司發現,一年買10萬張英偉達的加速卡,成本一點也不劃算,不如養一個團隊自己研發。”薛翔說,這是一個商業選擇。

正如Meta斥資數十億美元購買英偉達和其他公司的人工智能芯片,面對不斷膨脹的算力需求,Meta走上自研之路,減少對英偉達的依賴,降低成本。ChatGPT之父、OpenAI首席執行官山姆·奧特曼也在拉攏中東投資者和芯片制造商,欲籌數十億美元建芯片公司,構建半導體工廠網絡。日本軟銀集團創始人兼首席執行官孫正義則計劃為AI芯片企業籌資1000億美元,與英偉達競爭。

科技巨頭的容錯能力強,每一次科技領域的革命并不源于大公司犯錯,而是源于一項新興技術的快速崛起。“老公司的退潮和新公司的崛起都是時代變化所致。”薛翔說,在芯片領域,也許未來會出現適用于大模型的更專用的芯片,而帶來這一革命的也許是一家沒有歷史包袱的新興公司。所以,與其等待大公司犯錯,不如自我創新。

但于光認為,在國外的芯片創新生態里,創業公司很難顛覆芯片巨頭。不同于大模型的快速迭代,AI芯片開發周期長,人力、物力投入大。“創業型AI芯片公司可以通過芯片架構的創新獲得融資,然后迭代出前面幾代產品,最后的路徑有可能還是被那些大廠收購,因為真正到工程量產和商業化階段,大廠更有優勢。”

開發AI芯片不能僅盯算力性能

以大模型為代表的人工智能技術突飛猛進,算力需求激增,升級芯片成為必然。薛翔表示,英偉達等國外科技大廠自A100芯片后“剎不住車”,開發的芯片“一代更比一代強”,性能遙遙領先。“現在相當于在直道上開賽車,芯片生產技術和集群技術沒有達到物理瓶頸之前,沿著這條路往前面跑可以跑得很快,兩三代產品迭代以后會帶來非常大的差距。”但薛翔表示,這是正常現象,不需要過于擔憂。

目前GPU的存儲性能和算力共同決定了大模型的推理速度。但薛翔表示,當前大模型的使用場景對模型生成速度要求并沒有那么高。所以用AI芯片做單卡大模型推理時,瓶頸主要在存儲。

于光表示,前幾年的AI浪潮中,谷歌、Meta等科技巨頭根據自身業務需求自研AI定制芯片。如今大模型帶來AI迅速變革,這些玩家如何將AI芯片適配當前的大模型算法是共同面對的話題。他同樣認為,開發AI芯片不能僅僅盯著算力性能,存儲和互聯是AI芯片需要解決的問題。

一方面,大模型參數多,需要大容量的存儲空間,目前看起來需要塞下這么大的模型必須要用到HBM(一款新型的CPU/GPU內存芯片)。另一方面,數據需要從HBM高速傳遞給GPU的計算die(沒有封裝的裸片), GPU之間需要高速互聯例如NVLink(英偉達開發并推出的一種總線及其通信協議)和NVSwitch(英偉達的一種高速交換機技術)來實現高速通信,以及需要更上層的高速組網方式形成計算集群。于光表示。

再者,在薛翔看來,無限制堆參數和芯片更應該是一種科研行為而非應用行為,“那么大的模型運行一次很貴,并不符合商業邏輯。”反觀當下,“有一個概念叫AI Infra(人工智能基礎設施),基于現有大模型優化硬件和模型,目的是提高效率。”薛翔估計,“優化算力使用效率,優化模型結構,不用堆那么多參數,如果每一個方面都能節省20%,整體可以節省50%多的成本。”

深圳元始智能有限公司(即“RWKV元始智能”)首席運營官羅璇對澎湃科技(www.thepaper.cn)表示,中國大部分模型基于低計算效率的開源模型進行微調或重訓練,大部分模型類似于Meta的LLaMA2模型。這是一個基于Transformer架構的大語言模型,從第一性原理角度看,Transformer復雜度過高,算力需求大,未來多智能體、具身智能、世界模型的開發將受限于計算復雜度。這也導致大模型企業被英偉達的GPU“卡脖子”,另一方面英偉達芯片以10倍定價出售,“這是一個非常不正常的算力成本。”

Transformer架構和芯片卡住了大模型商業落地和前端研究,羅璇認為一定要找到新的架構,企業才能跑出PMF(產品市場匹配度)。另一方面,“一定不要買高溢價的算力,大部分的錢是被英偉達賺走的。我們認為接下來會有新的算力把成本打到現在的1/10甚至1%。”站在芯片使用者的角度,羅璇表示,目前國產算力還不夠便宜,如何把訓練和推理成本降下來,是國產芯片要解決的問題。

【來源:澎湃新聞】

分享到:
標簽:英偉 芯片 三星 模型 人工智能
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 52000

    網站

  • 12

    小程序

  • 1037587

    文章

  • 756

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定