【ITBEAR】作為人工智能的基礎設施,目前算力依舊處于供小于求的境地,算力缺口還在持續(xù)加大。除了GPU之外,行業(yè)也在迫切尋找其他的算力替代方案。
光芯片便是其中一項。
日前,由三位麻省理工學院(MIT)校友創(chuàng)立的AI算力獨角獸Lightmatter宣布獲得新一輪4億美元(約合28.5億元人民幣)D輪融資。本輪由普徠仕(T. Rowe Price)領投,老股東GV、富達等跟投。
此次融資后,Lightmatter累計融資已經達到8.22億美元(約合58.6億元人民幣),估值達到44億美元(約合313.7億元人民幣),相比上一輪融資,估值直接翻了約3.7倍,這也使其成為目前估值最高的光芯片創(chuàng)業(yè)公司之一。
據悉,Lightmatter通過其研發(fā)的光學互連層技術,能夠使數百個GPU協(xié)同工作,極大地簡化了AI模型訓練的復雜流程,并大大降低了成本。
麻省理工三位校友組團奪冠
開啟創(chuàng)業(yè)被谷歌連投五輪
這是一個三位MIT校友聯(lián)手創(chuàng)業(yè)的故事。
Nicholas Harris擁有MIT電氣工程和計算機科學的博士學位。后來,他成為了MIT的博士后研究員,研究光學量子計算和人工智能,在《自然》、《自然·光子》和《自然·物理》等期刊上發(fā)布過超過30項專利和70篇論文。
他還曾入選2021年《麻省理工科技評論》“35歲以下科技創(chuàng)新35人”,要知道獲得過這個獎項的可是谷歌創(chuàng)始人拉里·佩奇和謝爾蓋·布林、Facebook創(chuàng)始人馬克·扎克伯格、蘋果公司前首席設計官喬尼·艾夫等重量級人物。
實際上,他還曾在半導體儲存巨頭美光科技干過兩年的研發(fā)工程師。也是這一經歷使他認識到,提高計算性能的傳統(tǒng)方法即在每個芯片上塞滿更多晶體管,已經達到了極限。
Nicholas Harris說:“我看到算力的發(fā)展路線圖正在放緩,我想弄清楚通過什么方法才能繼續(xù)提升算力。量子計算和光子學就是其中的兩條途徑?!?/p>
這時,他找到了MIT的物理學博士Darius Bunandar。
Darius Bunandar的研究方向是用納米光子電路進行量子計算和通信。在德克薩斯大學奧斯汀分校讀本科時,他還參與了加州理工學院-康奈爾大學的模擬極限時空(SXS)合作項目,開發(fā)了一種能夠可視化雙黑洞的軟件。在美國大片《星際穿越》中,就使用了他創(chuàng)建的黑洞圖像。
可以說,Nicholas Harris和Darius Bunandar兩人都是技術宅,對如何創(chuàng)業(yè)以及商業(yè)化運作都知之甚少。因此,他倆決定去MIT的斯隆管理學院上一門創(chuàng)業(yè)課程,來好好惡補一下。
不巧不成書,在那里,他倆遇見了深諳商業(yè)運作的Thomas Graham。彼時,Thomas Graham正在攻讀MIT斯隆管理學院的MBA學位。
Thomas Graham不僅在摩根士丹利做過公司并購和融資方面的咨詢,還在谷歌做過產品經理、運營和商務方面的工作,可謂商業(yè)運營的全才。
在商學院,Thomas Graham看到了他們使用光子來加速AI的視頻。他們開發(fā)出一種新的光子芯片架構,完全依靠光而不是電子作為計算中攜帶信息的媒介,這意味著芯片的工作速度比傳統(tǒng)的電子芯片要快得多,并且消耗更少的能源。
“這個項目非常棒”,Thomas Graham說道。
于是,他們決定組隊參加MIT $ 100K創(chuàng)業(yè)大賽。這個大賽被譽為世界范圍內頂尖商學院的盛事,已經持續(xù)了30 多年,孵化出的公司市值超過100億美元。
最終,他們贏得了2017年比賽的冠軍,擊敗了其他數十支隊伍,獲得了10萬美元的獎金。
2017年9月,三位MIT校友共同創(chuàng)立了Lightmatter。Nicholas Harris成為了公司CEO,Darius Bunandar擔任首席科學家,Thomas Graham則發(fā)揮其運營才能,擔任COO。
次年2月,他們就獲得了來自星火資本(Spark Capital)和經緯創(chuàng)投(Matrix Patners)的1100萬美元A輪融資。
此后便一發(fā)不可收拾,睿獸分析顯示,Lightmatter共完成6輪融資,其中谷歌風投(Google Ventures,GV)已經從A+輪連投五輪,星火資本(Spark Capital)和經緯創(chuàng)投(Matrix Patners)也都連投了三輪。
值得注意的是,2023年12月,Lightmatter宣布完成1.55億美元(約合28.5億元人民幣)C+輪融資,公司估值超過12億美元(約合85.6億元人民幣),正式躋身獨角獸。近日,公司更是獲得了4億美元(約合28.5億元人民幣)D輪融資,成為其有史以來最大一輪融資,估值達到44億美元(約合313.7億元人民幣),累計融資8.22億美元(約合58.6億元人民幣)。
“把電換成光”正成為一場算力革命
實際上,在AI革命背后,“把電換成光”正在成為一場芯片行業(yè)的潛在算力革命。
AI帶來的巨大計算需求正在推動數據中心的發(fā)展,不過并不是直接插入一千個GPU那么簡單就能解決。
這其中,互連層是將 CPU 和 GPU 機架變成一臺巨型機器的關鍵。因此,互連速度越快,數據中心的速度就越快。
隨著摩爾定律接近極限,未來算力提升的空間很有可能在光子計算芯片技術上。數字芯片受限于底層元器件:CMOS晶體管,而光學信號和光學器件遵循不同的物理原理。
和傳統(tǒng)芯片不同,光芯片是通過光學技術而非電信號實現信息處理。而依靠光作為傳遞載體,讓光芯片擁有了更高的傳輸速度、更低的功耗、更大的帶寬。
經過測算,理想狀態(tài)下,光芯片的端到端功耗僅僅為電子芯片的10%,延遲只有其1%,而同等條件下的算力卻能達到電芯片的100倍以上。
從下游趨勢而言,隨著生成式AI將海量的高質量數據、大規(guī)模參數的模型推向市場,針對于大模型算力芯片的需求已達到非常高的水平,并仍在快速增長。這對未來的AI算力芯片提出了大算力、低功耗且成本可控的需求,而這些需求也恰好是光芯片的優(yōu)勢所在。
Lightmatter想要做的正是提升GPU或CPU芯片互聯(lián)層的效率,從而突破現代數據中心的瓶頸。通過光子技術,可以讓數百個GPU同步工作,從而簡化復雜又極其燒錢的AI模型訓練。
Lightmatter一直在開發(fā)的光子芯片,構建了速度最快的互連層。
Nicholas Harris指出,“針對超大規(guī)模的數據中心,如果他們想要一臺擁有一百萬個節(jié)點的計算機,無法使用思科傳統(tǒng)交換機來實現。一旦離開機架,高密度互連就變成了一根繩子上的杯子?!?/p>
因此,對于一百萬個 GPU,你需要多層交換機,這會增加巨大的延遲負擔,Nicholas Harris說。
“你必須從電到光再到電再到光……你使用的電量和等待的時間都是巨大的。而且在更大的集群中,情況會變得更糟?!?/p>
那么,Lightmatter又是怎么做的呢?
其首款產品Envise是一款專門用于人工智能操作的芯片,另一款產品Passage則促進芯片之間數據傳輸的互連,它們利用光子和電子來提高操作效率。
Lightmatter還研發(fā)了世界上第一個3D堆疊光子引擎Passage,能夠在超大規(guī)模數據中心以光速連接數千到數百萬個處理器,用于最先進的人工智能和高性能計算工作負載。
具體來說,Passage提供了一個功能類似于OCS(光路交換機)的通信層,該層位于基本和ASIC之間,幾乎可以實現全方位通信,這個通信層可以進行動態(tài)的配置。通過采用硅內置光學(或光子)互連的形式,使其硬件能夠直接與GPU等硅芯片上的晶體管連接,這使得在芯片之間傳輸數據的帶寬是普通帶寬的100倍。
Passage是晶圓級可編程光子互連,使異構芯片陣列能夠進行通信,圖源:Lightmatter
“AI對于能源消耗方面的挑戰(zhàn)是前所未有的,數據中心產生的能源消耗會越來越多。據統(tǒng)計,訓練一個大型語言模型所消耗的能量大約比100個美國家庭一年的消耗總量還要多,除非改變現有的計算范式,否則到本世紀末,AI模型將消耗世界總電力的10%-20%。這也迫使我們改進現有的計算基礎設施。”
Nicholas Harris相信,未來幾年,光子技術將改變生成式AI和超級計算。
又能提高運算效率,又能節(jié)能降本,這也恰恰是科技巨頭所需要的。
Nicholas Harris指出,“這個市場非常巨大,從微軟到亞馬遜,再到xAI和OpenAI等新進入者,每家擁有大型數據中心的科技公司都對光子計算表現出了極大的興趣。”
這其中,不少公司已經是Lightmatter的客戶。目前,公司正在與芯片制造商和云服務提供商合作,以實現大規(guī)模部署。不過Nicholas Harris并沒有透露具體的客戶名稱。
他還表示,由于Lightmatter的設備是在硅上運行的,因此可以由現有的半導體制造設施生產,無需大規(guī)模改變工藝。
同時,他還暗示到:“這很可能是公司最后一輪融資?!边@也意味著,Lightmatter有可能正在準備沖刺IPO。
實際上,今年7月,Lightmatter任命了英偉達前高管Simona Jankowski為CFO,進一步表明了其上市的決心。
幾乎同時,位于紐約的Xscape Photonics也獲得了4400萬美元A輪融資,由IAG Capital Partners領投,思科投資和英偉達等機構跟投。其光子解決方案可優(yōu)化AI數據中心的網絡架構,將GPU的“逃逸帶寬”提升10倍,能耗降低10倍。
華為入局、VC哄搶
國內光芯片賽道逐漸火熱
不僅是國外,國內光芯片也正在成為一條火熱的賽道。
2024年3月,位于蘇州的光計算芯片公司光本位完成了近億元人民幣的天使+輪融資。這家成立于2022年的初創(chuàng)企業(yè)在半年內完成了天使和天使+輪融資。
其聯(lián)合創(chuàng)始人&CEO程唐盛在牛津大學攻讀博士期間,選擇與高中時期好朋友熊胤江一起回國創(chuàng)建了光本位,并迅速獲得了資本和市場的肯定。
“光芯片不像硅基電芯片(集成電路)一般有著對先進制程(光刻機在內)的強依賴?!毙茇方f到。
集成電路的性能提升符合摩爾定律,要提升性能必須加大晶體管密度,而隨著摩爾定律陷入瓶頸,這一性價比變低。而光芯片卻可以通過借助多個波長、頻段的光進行并行計算,且彼此不會進行干擾,更能夠成倍提升算力,這使得光芯片可以不依賴于制程的進步完成迭代。
基于此,光計算芯片有極大可能成為中國在算力領域換道超車的絕佳機會。
熊胤江表示,目前光芯片領域的國產化替代率較高,國內已經擁有了成熟的芯片設計軟件,以及成熟的硅光工藝代工廠,國內外先進技術的差異不大。
80后MIT博士沈亦晨創(chuàng)立的曦智科技則已經獲得三輪融資。其投資方包括真格基金、BV百度風投、經緯創(chuàng)投、祥峰投資、中科創(chuàng)星、招商局創(chuàng)投、中金資本等知名機構。
實際上,在MIT時期,沈亦晨與Lightmatter的三位創(chuàng)始人還有一段交集。
當時,沈亦晨也是Lightmatter小組的成員,一同在MIT $ 100K創(chuàng)業(yè)大賽中獲得 10 萬美元獎金。2017年,他們分別以一作、二作的身份,在頂級期刊 《自然·光子》發(fā)表了將光計算應用于人工智能領域的關鍵論文。該論文累積引用超1400次,為納米光子領域近5年引用數最高的論文。
不過,當時由于采用了不同的技術路徑,在2017年9月同時誕生了兩家公司——曦智科技和Lightmatter。
成立不到兩年,曦智科技便發(fā)布了全球首款光子芯片原型板卡,成功將當時占據半個實驗室的整個光子計算系統(tǒng)集成到了常規(guī)大小的板卡上,驗證了以光子替代電子進行高性能計算的開創(chuàng)性想法,并解決了光子芯片處理準確性問題。
2021年,在此基礎上,曦智科技發(fā)布了高性能光子計算處理器PACE(光子計算引擎)。PACE成功驗證了光子計算的優(yōu)越性,跨出了整個光子計算行業(yè)的一大步。2023年,其首款兼容PCIe和CXL(Compute Express Link)協(xié)議的數據中心計算光互連硬件產品Photowave亮相。
祥峰投資合伙人李偉指出,由于光芯片是一個全新革命性的技術,并不是做某個國產替代的芯片,有比較明確的目標客戶,因此會有一個市場發(fā)掘的過程。隨著產品的進展順利,曦智科技在發(fā)展過程中也逐步找到了商業(yè)落地的場景,例如銀行間的高頻交易、滴滴的路徑導航規(guī)劃。
如今,光芯片已是全球通信廠商必爭之地。
近兩年,華為集中投資光電芯片,一度掀起國內光芯片投資熱潮。據統(tǒng)計,僅華為哈勃就已投資10余家光芯片相關企業(yè)。
國內一眾VC、PE幾乎無人不投光芯片,國內包括光本位、曦智科技在內的縱慧芯光、鯤游光電、長光華芯、芯耘光電、微源光子等公司紛紛遭到VC哄搶。