起初,ChatGPT爆火出圈是一件令人興奮的事。無論是AI行業相關從業者,還是關注科技發展趨勢的普通人都能真切感受到這股撲面而來的熱浪,仿佛 “每條大街小巷,每個人的嘴里,見面第一句話,就是AIGC”。ChatGPT的橫空出世,不僅帶來了AI的“iPhone”時刻,還使處在下行周期的全球半導體市場迎來轉折點。據畢馬威報告,ChatGPT等人工智能平臺的出現,有望促進產生新的應用程序和平臺,創造為行業和未來幾年帶來數千億美元收入的細分市場。
同時,這個 “超費電”、“超費錢”又“超聰明”的“三超大戶”也給社會增添了許多焦慮情緒。前微軟全球副總裁、百度COO、奇跡創壇創始人陸奇表示:“從現在開始,不論工作還是創業,請確保自己跟AI有關”, “AIGC不是什么當下風口,風口意味著投機主義,未免太低估AI對世界發展的影響。” 時代正在發生變化,你我皆應有所準備。
AI 2.0 時代到來,108模型“好漢”各顯身手,誰會成為MaaS “四小龍“
也許再過幾年回頭看,2023會是人工智能發展史上不可忽視的一年。就像《2001太空漫游》里的那塊黑色石板,它第一次出現時,猿猴們圍著它好奇地打轉,最終受到啟發,學會了使用工具,進化成了人類;而當它再一次出現時,又引導人類向著更高維度前進,穿過萬千星海,直到成為宇宙本身。
2012年,Alexnet一鳴驚人,一舉摘得imagenet圖像識別類的冠軍,將圖像識別的正確率提升到85%。以CNN為核心的人工智能技術,機器開始在計算機視覺(CV)等領域超越人類,開啟了AI 1.0時代。
十年后,2022年底,ChatGPT橫空出世,建立在海量數據訓練的基礎上,克服了單領域、多模型的限制,也打破了人類對于傳統NLP人機交互中“人工智障”的偏見,驅動各行各業的AI 應用進入2.0時代。我們很幸運,可以在短短十年間,見證人工智能跨時代的兩個突破節點。
從今年3月以來,AIGC與大模型產品幾乎是爆發式地推出,呈現出百花齊放之勢,AI領域的模型更新已經是按周來迭代。就在不久前,meta將其LLama2的模型開放商用。模型越來越大,應用越來越多。當前國產大模型已經達到108個,正如水滸108好漢,人工智能領域自媒體走向未來甚至以“誰是36天罡?誰是72地煞?”為題評選出了百模爭霸排行榜。
在剛剛閉幕的2023年世界半導體大會(WSCE)上,AI大算力芯片公司億鑄科技副總裁李明發表了題為《以存算一體架構創新,迎AI 2.0時代》的演講,他預測,最早在明年,國內也可能初步形成MaaS(Model as a Servic, 模型即服務)四小龍的競爭格局。就像在2014-2017年,基于CNN AI網絡,國內也曾形成了CV(機器視覺)應用四小龍的競爭格局,繼而引領了AI視覺領域數年的蓬勃發展。
算力、能源雙重挑戰,計算架構創新是“解藥”
生成式AI驚艷全世界的背后離不開超大算力的加持。最近,IDC、浪潮信息和清華大學全球產業研究院聯合發布了《2022-2023全球計算力指數評估報告》。報告指出,“計算力與經濟增長緊密相關,計算力指數平均每提高1個點,數字經濟和GDP將分別增長3.3‰和1.8‰”。首次揭示了算力即生產力的事實。
眼下,transformer的劃時代革新,不但會促成AI向通用人工智能AGI領域發展,還會引領第二次AI應用場景的爆發。而在此過程中,勢必會產生上千億美金的算力需求。
據中國信通院等機構的調研數據,ChatGPT的單日運營算力消耗占整個2021年中國智能算力總規模的3%。而這只是Open AI的一個模型而已,如果中國的百大模型持續蓬勃發展,對國內的智能算力要求將達到驚人的天文數字。
“假設目前的ChatGPT3平均每張H100每秒可以生成6個tokens(FP16,參數350GB),在不考慮級聯或者模型稀疏化的前提下,假設每人每天提5個問題,每個問題會和GPT交互5次,每次消耗30個token,那么每人每天會消耗750個token,如果每天有1億人在線使用查詢,就需要約15萬顆H100芯片,僅僅H100卡的硬件成本會達到50億美金以上。如果計算系統成本的話,100億美金也很難覆蓋。” 李明補充道。
算力需求不斷提升帶來的挑戰除了貴,還有費電。在今年國際集成電路設計領域最高級別會議 ISSCC上,AMD全球CEO Lisa Su表示,目前實現Exascale(百億億次計算)的超級計算機功耗已經到達2100萬瓦。而根據Green500的預計,到2035年,實現Zettascale(十萬億億次計算)級別的一臺超級計算機的功率會達到500 MW,相當于半個核電站的發電功率,到那時,世界再多的核電站也難以支撐如此大電力的消耗。而2035年離我們也并不遙遠。
回到ChatGPT3的場景假設,億鑄科技認為，未來隨著大模型的普及，如果有1億人同時在線，在線提問率為5%，每個prompt占30個token的話，就差不多需要1500萬顆H100芯片來提供其推理算力，每顆H100的功耗在750W左右，該模型每天假設只運行10個小時，這些H100芯片所在的數據中心一年的耗電量將相當于三峽大壩一年的發電量。
從技術環境來看,未來數據量會越來越大、模型算法越來越復雜,算力要求越來越高,而支撐底層算力的摩爾定律卻幾近終結。巨大的剪刀差落在AI大算力芯片企業產業鏈的肩 上,從而帶來了巨大的壓力:比如有效算力的增長率、軟件的編譯、數據的帶寬、存儲的成本、能效比、生產工藝等等。
以AI云端推理卡為例,近年來由于工藝制程“卷不動”等種種原因,成本、功耗、算力難以兼顧。目前國內主流AI芯片廠商、初創企業紛紛謀求計算架構創新,試圖找出兼顧性能、規模、能源利用率的方案,突破算力天花板。
清華大學集成電路學院副院長尹首一教授認為,在當前國際產業環境下,需要重新審視芯片算力公式,在可獲取的低世代成熟工藝下去尋找持續提升算力的新途徑,其中包括在芯片面積上探索先進集成技術和先進封裝技術發展的可能性,以及在算力方面更加聚焦新型計算架構。
存算一體乘風起,扶搖直上解困局
存算一體化概念的提出最早可以追溯到上個世紀七十年代,斯坦福研究所的Kautz教授團隊于1969年提出了存算一體化的概念,期望直接利用內存做一些簡單的計算,減少數據在處理器與存儲器之間的搬移。
2016年的ISCA上,存算一體的相關論文開始出現。到了Micro 2017,英偉達、英特爾、微軟、三星、加州大學圣塔芭芭拉分校等都推出了他們的存算一體系統原型。世界上第一顆存算一體芯片在ISSCC 2018年首次出現,今年已經是存算一體芯片工程落地走過的第7個年頭了。
近年來關于存算一體相關的報道、研究源源不斷涌現。學界,ISSCC上存算/近存相關的文章數量迅速增加:從20年的6篇上漲到23年的19篇;其中數字存內計算,從21年被首次提出后,22年迅速增加到4篇。產界,巨頭紛紛布局存算一體,國內陸陸續續也有近十幾家初創公司押注該架構,這“扶搖直上”的架勢,不僅僅是因為存算一體是天生為AI大模型計算而生的一種架構,乘了大模型的“東風”,更是因為該架構解決了長久以來造成算力發展困局的根本原因——“存儲墻”。
存算一體架構是相對于傳統馮·諾伊曼架構下的存算分離而言的。從技術理論的角度來看,要從阿姆達爾定律講起。阿姆達爾定律是硬件加速設計的基本定律。這個定律包括兩個因子,一個是加速器規模α,可以用先進的工藝或者優化設計去提升其工作頻率,疊加之后就形成了 “裸算力”;而另一個因子F則是在計算周期里數據訪存所占的百分比。
IBM的科學家做過一個研究,在存算分離的馮·諾依曼架構下,F值達到了90%以上,也就是每一次計算,數據搬運訪存的時間超過90%,功耗也超過90%。這意味著即使現在用5nm,將來做到0.5nm;現在花1億做一顆芯片,將來花10億去做一顆芯片,可以提升的性能空間也只有10%。
那么,如何減小F值呢?近存儲計算是一種途徑。例如,特斯拉的Dojo D1用近存儲,如果能將F值降到0.2、0.3,這意味著即使工藝還是7nm,性能也會提升3-4倍。
存內計算則是更進一步——億鑄科技希望通過存算一體(CIM)把F值降低到0.1以下,如此一來,未來芯片的性能提升將主要取決于工藝的提升和設計的優化。
存算一體超異構開啟AI算力芯片換道發展之路
據李明透露,億鑄早就已經根據ReRAM(RRAM)的特性著手使用先進異構封裝的方式來實現系統級的芯片優化方案;在今年3月,億鑄科技正式公布了存算一體超異構芯片這一創新理念。它將會以存算一體(CIM)AI加速計算單元為核心,同時將不同的計算單元進行異構集成,以實現更大的AI算力以及更高的能效比,同時提供更為通用的軟件生態,使得CIM AI大算力芯片真正滿足AI算力增長第二曲線的需求,開啟一條AI大算力芯片換道發展之路。
這顆存算一體芯片可實現基于75W功耗達到單芯片1P的算力,相比傳統馮·諾依曼架構的AI推理芯片提升10倍左右的能效比,同時還能兼顧軟件通用性。
李明表示,通過億鑄“四新一強”的整體優勢,也就是存算一體架構創新、ReRAM新型憶阻器的應用創新、全數字化技術路徑應用創新、存算一體超異構系統級創新以及極強的專業團隊陣容,一定可以成為AI 2.0時代破局的一道光。
