【ITBEAR】在人工智能領域,能耗問題一直是業界關注的焦點。隨著AI技術的迅猛發展,大量的計算需求帶來了對電力的巨大消耗,促使眾多科技巨頭紛紛進軍能源領域。然而,如何在保證AI技術發展的同時,降低能耗、提高效率,也成為了這些企業亟待解決的問題。
近日,《知識分子》就這一話題采訪了數珩科技的創始人兼董事長張繼生。數珩科技作為領先的企業級AI解決方案提供商,在降低AI應用能耗方面取得了顯著成果。
張繼生指出,當前AI能耗的高企主要集中在訓練階段,而非推理階段。隨著技術的不斷進步,未來AI推理的單次能耗有望大幅下降。數珩科技通過自研大模型,結合模型壓縮、剪枝、量化以及異構計算芯片等軟硬件技術,已成功將AI大模型在實際使用中的能耗降低,為客戶實現了降本增效。
張繼生還提出了“專屬化AI應用”的理念。他認為,與追求大規模、通用型模型的趨勢不同,開發針對性強的小模型將更能滿足中小企業的實際需求。這些小模型不僅訓練成本和能耗較低,而且更能精準地服務于特定行業。
數珩科技正是基于這一理念,與客戶緊密合作,深入了解需求,并開發出了一系列面向特定領域、參數量適中的小模型。這些模型在汽車、教育、快消和人力資源服務等行業已得到廣泛應用,為用戶提供了高效便捷的服務。
張繼生強調,AI技術的真正價值在于與具體行業應用的深度融合,而非單純的技術追求。數珩科技將繼續致力于研發更多符合行業需求的AI應用,助力客戶實現數字化轉型。
在AI行業追求綠色發展的背景下,數珩科技的這些舉措無疑為行業樹立了新的標桿。通過降低能耗、提高效率以及開發專屬化應用,數珩科技正引領著AI技術走向更加可持續的未來。