【ITBEAR】在清華系創業的浪潮中,AI Infra領域正成為新的熱點。多家源自清華實驗室的創企,如清昂智能、清程極智等,正致力于將模型與芯片深度適配,以提升算力資源的利用效率,并推動模型應用的快速發展。
當前,這些清華系創企面臨的核心問題之一,是如何在瞬息萬變的模型、應用和硬件層之間找到突破口。MaaS平臺、訓推一體機、異構混訓等方向,都成為了他們探索的焦點。然而,這些方向也引發了業內的諸多質疑和討論。
關于MaaS平臺,有觀點認為,這將與通用大模型公司產生直接競爭,創業公司的生存空間可能受到擠壓。然而,也有創業者堅持認為,通過提供可靠的彈性服務和優化算力成本,MaaS平臺能夠為大模型應用落地提供關鍵支持。
在訓推一體機方面,創企們看到了后訓練市場的巨大潛力。然而,也有意見認為,訓推一體機可能難以兼顧訓練和推理的需求,其長期發展前景尚不明朗。
與此同時,異構混訓作為另一種解決方案,也在引發業內的關注。無問芯穹等創企通過異構多種GPU卡來同時混訓一個大模型,以滿足不同客戶的需求。然而,這一方向也面臨著性能損耗、效率不佳等挑戰。
在AI Infra的創業浪潮中,創企們還需要面對國內外市場的差異。海外市場由于芯片供應相對集中,軟件生態較為成熟,為創業公司提供了更多的機會。然而,國內市場則因為芯片供應分散、軟件生態薄弱等問題,給創企們帶來了更大的挑戰。
盡管如此,這些清華系創企仍然堅信,在AI Infra領域存在著巨大的商機。他們通過不斷探索和創新,試圖找到能夠解決國產算力問題的最佳路徑。無論是從哪個方向切入,他們的努力都將為AI產業的發展注入新的活力。
值得注意的是,這些創企在發展過程中也需要與云廠商等巨頭進行競合。盡管雙方在某些方面存在競爭關系,但通過友好協作和差異化發展,他們有望共同推動AI Infra領域的繁榮與進步。