【ITBEAR】在超算時代，清華大學(xué)高性能計算研究中心便以解決算力需求相關(guān)軟件問題而著稱。如今，隨著AI技術(shù)的迅猛發(fā)展，這一經(jīng)驗(yàn)被應(yīng)用到新的領(lǐng)域。清程極智，一家由清華大學(xué)計算機(jī)系團(tuán)隊(duì)創(chuàng)辦的初創(chuàng)企業(yè)，正致力于解決AI Infra領(lǐng)域的挑戰(zhàn)。
清程極智的核心團(tuán)隊(duì)擁有豐富的超大規(guī)模國產(chǎn)算力集群使用和優(yōu)化經(jīng)驗(yàn)，這是目前國內(nèi)AI Infra賽道中少有的技術(shù)優(yōu)勢。據(jù)湯雄超博士介紹，他們是國內(nèi)唯一有過十萬臺服務(wù)器規(guī)模的國產(chǎn)算力集群調(diào)優(yōu)經(jīng)驗(yàn)的團(tuán)隊(duì)。
湯雄超在清程極智辦公室
清程極智不僅關(guān)注AI訓(xùn)練面臨的挑戰(zhàn)，還看到了推理側(cè)的機(jī)會。湯雄超認(rèn)為，訓(xùn)推一體機(jī)難以滿足未來的全部AI業(yè)務(wù)需求，因?yàn)橛?xùn)練和推理兩種業(yè)務(wù)對算力系統(tǒng)的需求差異較大。因此，清程極智選擇為推理業(yè)務(wù)量身定制軟硬件一體化的算力系統(tǒng)，并通過云端算力提供MaaS大模型推理服務(wù)。
對于與云廠商的競爭，湯雄超表示，大模型應(yīng)用市場前景廣闊，足以容納多家廠商。他認(rèn)為，云廠商過去聚焦于資源池化和共享，而現(xiàn)在需要解決的問題是分布式的資源合并，這正是清程極智團(tuán)隊(duì)的優(yōu)勢所在。
在商業(yè)化方面，清程極智已經(jīng)與多家芯片廠商、算力中心、AI應(yīng)用開發(fā)商以及基礎(chǔ)模型預(yù)訓(xùn)練廠商達(dá)成了合作。同時，他們也在與云廠商合作，提供兼容和賦能多樣化算力基座的服務(wù)。
清程極智 MaaS 平臺
湯雄超還表示，他們對國產(chǎn)芯片市場的發(fā)展充滿信心。他認(rèn)為，隨著國產(chǎn)芯片性價比的提升，未來國產(chǎn)芯片市場會有一定程度的收斂，但不會完全集中到一家廠商。而清程極智的技術(shù)和服務(wù)，正是為了助力國產(chǎn)算力生態(tài)的發(fā)展。
在談到MaaS平臺時，湯雄超表示，他們不僅提供大模型API的服務(wù)，還通過自研的推理引擎提升模型推理的性能。他們的MaaS平臺支持多種芯片，包括英偉達(dá)和國產(chǎn)算力平臺。而他們的目標(biāo)，是讓更多有需求的人使用到清程的推理加速能力。
對于未來，湯雄超表示，他們將繼續(xù)致力于AI Infra領(lǐng)域的技術(shù)創(chuàng)新和商業(yè)化應(yīng)用。他們相信，隨著AI技術(shù)的不斷發(fā)展，他們的技術(shù)和服務(wù)將在更多領(lǐng)域得到應(yīng)用和推廣。
清程極智團(tuán)隊(duì)成員
在談到國產(chǎn)芯片廠商的競爭和合作時，湯雄超表示，他們與多家國產(chǎn)芯片廠商都有合作，并認(rèn)為未來國產(chǎn)芯片市場可能會出現(xiàn)一定程度的集中和收斂，但不太可能出現(xiàn)一家獨(dú)大的情況。他們將繼續(xù)與國產(chǎn)芯片廠商合作，共同推動國產(chǎn)算力生態(tài)的發(fā)展。
最后，對于GPU是否是算力的最優(yōu)解，湯雄超表示，這取決于上層應(yīng)用的需求和算法的發(fā)展。他認(rèn)為，如果AI算法發(fā)生巨變，可能會導(dǎo)致新的芯片架構(gòu)的出現(xiàn)。但目前來看，GPU或類GPU架構(gòu)仍然是較好的選擇。
