【ITBEAR】在超算時代,清華大學高性能計算研究中心便以解決算力需求相關軟件問題而著稱。如今,隨著AI技術的迅猛發展,這一經驗被應用到新的領域。清程極智,一家由清華大學計算機系團隊創辦的初創企業,正致力于解決AI Infra領域的挑戰。
清程極智的核心團隊擁有豐富的超大規模國產算力集群使用和優化經驗,這是目前國內AI Infra賽道中少有的技術優勢。據湯雄超博士介紹,他們是國內唯一有過十萬臺服務器規模的國產算力集群調優經驗的團隊。
湯雄超在清程極智辦公室
清程極智不僅關注AI訓練面臨的挑戰,還看到了推理側的機會。湯雄超認為,訓推一體機難以滿足未來的全部AI業務需求,因為訓練和推理兩種業務對算力系統的需求差異較大。因此,清程極智選擇為推理業務量身定制軟硬件一體化的算力系統,并通過云端算力提供MaaS大模型推理服務。
對于與云廠商的競爭,湯雄超表示,大模型應用市場前景廣闊,足以容納多家廠商。他認為,云廠商過去聚焦于資源池化和共享,而現在需要解決的問題是分布式的資源合并,這正是清程極智團隊的優勢所在。
在商業化方面,清程極智已經與多家芯片廠商、算力中心、AI應用開發商以及基礎模型預訓練廠商達成了合作。同時,他們也在與云廠商合作,提供兼容和賦能多樣化算力基座的服務。
清程極智 MaaS 平臺
湯雄超還表示,他們對國產芯片市場的發展充滿信心。他認為,隨著國產芯片性價比的提升,未來國產芯片市場會有一定程度的收斂,但不會完全集中到一家廠商。而清程極智的技術和服務,正是為了助力國產算力生態的發展。
在談到MaaS平臺時,湯雄超表示,他們不僅提供大模型API的服務,還通過自研的推理引擎提升模型推理的性能。他們的MaaS平臺支持多種芯片,包括英偉達和國產算力平臺。而他們的目標,是讓更多有需求的人使用到清程的推理加速能力。
對于未來,湯雄超表示,他們將繼續致力于AI Infra領域的技術創新和商業化應用。他們相信,隨著AI技術的不斷發展,他們的技術和服務將在更多領域得到應用和推廣。
清程極智團隊成員
在談到國產芯片廠商的競爭和合作時,湯雄超表示,他們與多家國產芯片廠商都有合作,并認為未來國產芯片市場可能會出現一定程度的集中和收斂,但不太可能出現一家獨大的情況。他們將繼續與國產芯片廠商合作,共同推動國產算力生態的發展。
最后,對于GPU是否是算力的最優解,湯雄超表示,這取決于上層應用的需求和算法的發展。他認為,如果AI算法發生巨變,可能會導致新的芯片架構的出現。但目前來看,GPU或類GPU架構仍然是較好的選擇。