新智元報道
編輯：Aeneas 好困
【新智元導讀】攪動了百億美金市場的ChatGPT，再一次證明了：AIGC，將在2023年給我們的生活帶來革命性的劇變。
這幾天， 「微軟砸下百億美金注資OpenAI」 的消息瘋狂刷屏。
作為一家沒有商業模式的公司，OpenAI怎么就能估值百億美金？投資人這么好忽悠嗎？
其實，拉出OpenAI背后的ChatGPT，大家就多少能明白一點了。這個語言模型「頂流」，最近可謂是無人不知，無人不曉。
而近水樓臺先得月的微軟，已經悄咪咪地在互聯網巨頭混戰中，先下了一城。
前腳剛表示 ChatGPT即將整合進自家搜索引擎必應 ， 后腳就放出 ChatGPT計劃加入office「辦公全家桶」 這個重磅炸彈。
AIGC革命，又到了拼算力的環節
2022年，是AIGC的革命元年。
DALL·E 2的誕生讓「文生圖」火了整整一年，緊跟其后的Stable Diffussion、Midjourney更是啟發了無數人的藝術靈感，甚至讓不少畫手感到了「失業危機」。
到了年末，ChatGPT更是在全民中掀起AIGC的風暴。雖然是壓軸出場，但「強化學習」（RLHF）賦予它的魔力，成功地掀起了一場全民的狂歡。
剛剛我們提到的這些應用，雖然看起來花里胡哨，但在背后提供支撐的依然是大家熟知的大模型們。
眾所周知，對于大模型來說，不管是前期的訓練還是后期的推理，都離不開巨量的「算力」。
舉個例子，「當紅炸子雞」ChatGPT和DALL·E 2基于的GPT-3，以及國產自研的源1.0、悟道和文心等等，不僅在參數量上達到了千億級別，而且數據集規模也高達TB級別。
想要搞定這些「龐然大物」的訓練，就至少需要投入超過1000PetaFlop/s-day（PD）的計算資源。
也難怪OpenAI在大煉GPT-3之前，會讓微軟花10億美元給自己獨家定制了一臺當時全世界排名前五的超級計算機。
但是問題在于，并不是每個需要到大量AI算力的企業或高校，都能財大氣粗地斥巨資搞一個自己的「人工智能高性能計算中心」。
那么，如果我們換一個思路，讓算力變得更加「普適普惠」，是不是也能實現相同或更好的效果呢？
于是，在2020年12月的時候，國家信息中心和浪潮信息聯合發布了《智能計算中心規劃建設指南》。其中，便提到了一個全新的概念——智能計算中心（簡稱，智算中心）。
智算中心是什么？
為了能更好地解決人工智能領域的問題，智算中心的發展就需要基于最新的AI論和先進的AI計算架構，并以AI芯片、AI服務器、AI集群為算力的載體。
首先，當前主流的AI加速計算，主要是采用CPU系統搭載GPU、FPGA、ASIC等異構AI加速芯片。
由于GPU芯片中原本為圖形計算設計的大量算術邏輯單元（ALU），可為以張量計算為主的深度學習計算提供很好的加速效果，因此廣受學術界和工業界的歡迎。
隨著越來越深入的應用，GPU芯片本身也根據AI的計算特點，進行了針對性的創新設計，如張量計算單元、TF32/BF16數值精度、Transformer引擎（Transformer Engine）等。
而更加「專一」的AI計算加速芯片，主要脫胎于GPU芯片。
特斯拉Dojo人工智能訓練芯片
其次，作為智算中心算力機組的AI服務器，則采用CPU+AI加速芯片的異構架構，通過集成多顆AI加速芯片實現超高計算性能。為了滿足各領域場景和復雜的AI模型的計算需求，AI服務器對計算芯片間互聯、 擴展性也有著極高要求。
最后，智算中心還需要對業界主流、開源、開放的軟件生態提供充分的支持。
比如，用于開發AI算法的深度學習框架TensorFlow和PyTorch，為適應CV、NLP等特定場景開發而構建的一系列開源庫等等。
智算中心總體架構
不過，和國外那些大廠給自己定制的高性能計算中心不同，智算中心其實是一個面向公眾的基礎設施，更好地解決建不起、用不起算力的問題。
其中最為直觀的便是，作為「神經中樞」的智算OS（智算中心操作系統）就是為了讓智算中心可以對算力資源池進行高效管理和智能調度，從而更好地對外提供算力、數據和算法等服務。
如今，距離2020版《智能計算中心規劃建設指南》的發布已經時隔兩年，而我國的智算中心發展也已經進入了新階段。
為此，國家信息中心和浪潮信息聯合開展了與時俱進的研究，于2023年1月推出了更新的《智算中心創新發展指南》（以下簡稱「指南」）。
所以，為何還要興建智算中心？
智算中心是數字經濟時代促進產業轉型升級、優化產業結構、提升城市競爭力的關鍵基礎設施，并為快速增長的人工智能算力需求提供了必不可少的支撐。
具體來說可以分為四個方面：
推進AI產業化、賦能產業AI化、助力治理智能化、促進產業集群化。
-
AI產業化
AI產業化的一個重要例子，就是自動駕駛。
在自動駕駛的場景中，需要基于AI技術，讓車輛能夠像人類駕駛員一樣準確識別駕駛環境中的關鍵信息，并對周圍運動單元的潛在軌跡做出預判。
在訓練算力消耗上， 自動駕駛感所采用的知模型要遠大于一般的計算機視覺感知模型。
比如，特斯拉的L2級FSD自動駕駛融合感知模型，訓練過程使用了百萬量級的道路采集視頻，算力投入約為500PD。
而且，隨著自動駕駛級別從L2提升到L4，對算力的需求將進一步提高。
對此，智算中心提供的普惠算力，可以極大降低自動駕駛所需算力的成本。
-
產業AI化
在2022年，有一個概念非常流行，叫「AI for Science」。
這是一種新的科研范式，指科學家們用AI技術作為生產工具。
要說今年AI for Science最廣為人知的例子之一，就是DeepMind開發的AlphaFold 2了。
截至目前，AlphaFold 2已經可以預測出2億多個蛋白質結構，幾乎覆蓋了整個「蛋白質宇宙」。通過AlphaFold 2，單個蛋白結構的預測時間縮短到了分鐘級，準確率也達到了92.4%。
AlphaFold 2的開發，就是以巨量算力為支撐的。僅在訓練數據準備階段，AlphaFold 2就消耗了約2億核時的CPU算力，訓練過程中更是消耗了約300PD的AI算力。
而非常契合AI for Science算力需求的 智算中心，將成為支撐 高校和科研院所高質量科研的重要基礎設施。
-
治理智能化
另外，智算中心還能為城市公共服務和智能化治理，提供智算能力支撐。
-
產業集群化
智算中心能夠聚合當地人工智能的研發優勢、人才優勢、產品優勢與產業投資，實現產業鏈協同，促進產業集群化發展。
智算中心產業鏈
現在，智算中心更是成為提升國際競爭力的關鍵基礎設施。
我們都知道，人均GDP指標可以衡量一個國家經濟發展，人均算力水平的高低也可以衡量一個國家的智能化水平。
根據《2021-2022全球計算力指數評估報告》，國家計算力指數與GDP的走勢呈現出了顯著的正相關，計算力指數平均每提高1點，數字經濟和GDP將分別增長3.5‰和1.8‰
計算力指數與GDP回歸分析趨勢
經研究測算，「十四五」期間，在智算中心實現80%應用水平的情況下，城市對智算中心的投資，可帶動人工智能核心產業增長約2.9-3.4倍、帶動相關產業增長約36-42倍，城市/地區在智算中心建設投入的增長量對創新產出的貢獻率約為14%-17%。
不難看出，智算中心對于城市經濟發展，已經形成一股不可忽視的力量。
智算中心項目的經濟社會效益
基于這些原因，智算中心這個概念一經提出，便引發了建設熱潮。據統計，現在全國有超過30個城市正在建設或提出建設智算中心。
然而，問題也隨之而來
不可忽視的是，在如火如荼的建設過程中，這些智算中心也暴露出了很多問題和挑戰。
首先，我國對智能算力的需求與日俱增。
《2022-2023中國人工智能計算力發展評估報告》數據顯示，2021年我國智能算力規模達155.2 EFLOPS（FP16），預計到2026年，我國的智能算力規模將達到1,271.4 EFLOPS。
在未來80%的場景都將基于AI，它們所占據的大部分算力資源，都是由智算中心承載。
我國智能算力發展情況
其次，圍繞算法的服務模式也需要完善。
自2011年以來，全球AI領軍企業和研究機構紛紛加入AI大模型研究，模型參數急劇增長。在短短三四年時間內，參數規模快速從億級突破至萬億級，同時出現了很多代表性大模型，如谷歌發布的BERT，OpenAI發布的GPT-3等。
傳統計算范式的改變，也必然推動智算中心的服務模式從提供算力為主，向提供「算法+算力」轉變。
最后，現階段存在的概念認知尚不清晰、建設標準尚不統一、應用場景尚不豐富、運營模式尚不成熟等問題，也直接影響著智算中心的發展。
怎么解決？
對此，《指南》給出的解決思路是：1. 普適普惠；2. 開放兼容。
先來說什么叫「普適普惠」。
普適普惠是指，發揮公共基礎設施的社會價值，既要滿足用戶對通用算力的需求，又要滿足不同用戶不同場景對多元化算力的需求。
具體來說，智算中心要朝著標準化、低成本、低門檻方向發展，使智能計算可以像水電一樣，成為社會基本公共服務，滿足不同用戶不同場景對算力多元化的需求。
其次，就是要「開放兼容」。
具體來說，就是要開源開放、培育生態。以開放硬件和開源軟件為主，融合多元算力，實現算力的聚合、調度、釋放，讓智算中心「用起來、用的好」。同時，要加強對智算中心關鍵軟硬件產品的研發支持和大規模應用推廣。
智算中心建設架構
而為了實現算力服務的普適普惠、高效利用，也就是智算中心如何「好用、用好」的問題，《指南》指出智算中心建設還需要構建「算力基建化、算法基建化、服務智件化、設施綠色化」的「四化」技術路線。
算力基建化是指，智算中心要具備對外提供高性價比、普惠、安全算力資源的能力，使AI算力像水、電一樣成為城市的公共基礎資源，供政府、企業、公眾自主取用。
算法基建化是指，智算中心通過提供預置行業算法、構建預訓練大模型、推進算法模型持續升級、提供專業化數據和算法服務，讓更多的用戶享受普適普惠的智能計算服務，實現「帶著數據來、拿著成果走」的效果：
服務智件化是指，智算中心的發展將由傳統的硬件、軟件向「智件」升級。「智件」是指智算中心提供人工智能推廣應用的中間件產品和服務。「智件」的構建，通過可視化操作界面，以及低代碼開發甚至無代碼開發的模式，為用戶提供功能豐富、使用便捷的人工智能算力調度、算法供給和個性化開發服務。
最后，還要做到設施綠色化，目前主要發展趨勢就是采用液冷技術。
展望未來
現在，以AIGC、元宇宙、智慧科研 （AI for Science）為代表的新興場景，正在走進我們的日常生活，給我們的未來帶來無限的可能。
與之相應的，智算中心建設布局浪潮正在全國快速掀起。
智能算力的普適普惠，對于大多數企業來說，尤其是中小企業，創新的門檻大大地降低了。
相信在不久的將來，我們會很快見證「以數據輸入，讓智能輸出」，智能計算會如水電一般，真正惠及每一個人。
報告鏈接：
http://scdrc.sic.gov.cn/archiver/SmarterCity/UpFile/Files/Default/20230111181640567177.pdf
