譯者 | 布加迪
審校 | 孫淑娟?
人工智能(AI)對于任何平臺(包括公共云)而言都是資源密集型的技術。大多數AI技術都需要大量的推理計算,因而提高了對處理器、網絡和存儲資源的需求,最終增加了電費、基礎設施成本和碳排放量。?
ChatGPT等生成式AI系統的崛起再次將這個問題推到了前臺。考慮到這項技術大行其道,加上公司、政府和公眾可能廣泛使用該技術,可以預料耗電量增長曲線會呈現出令人擔憂的弧線。?
AI自20世紀70年代以來一直切實可行,但考慮到成熟完備的AI系統需要大量的資源才能正常工作,最初并沒有多大的商業影響。我記得我在20多歲時設計的基于AI的系統需要超過4000萬美元的硬件、軟件和數據中心空間才能讓它運行起來。順便說一下,該項目與其他許多AI項目一樣從未迎來發布日期,商業方案根本就不可行。?
云計算改變了這一切。借助公共云,曾經難以企及的任務現在能夠以足夠顯著的成本效益來處理。事實上,您可能已經猜到了,云計算的興起與過去10年到15年AI的興起相得益彰,我要說現在兩者休戚相關。?
云資源的可持續性和成本
其實不需要做太多的研究就能預測到這個領域會發生什么。市場對AI服務的需求將會飆升,比如現在非常流行的生成式AI系統以及其他AI和機器學習系統。引領這股熱潮的將是通過創新尋求優勢(比如智能供應鏈)的企業,或者甚至是成千上萬希望生成式AI系統來撰寫學期論文的大學生。?
對AI的需求加大意味著對這些AI系統使用的資源的需求隨之加大,比如公共云及其提供的服務。這一需求很可能會由更多容納服務器和網絡設備這些耗電大戶的數據中心來滿足。?
公共云提供商就像任何其他公用資源提供商一樣,會隨著需求的增加而提高價格,就像我們看到民用電費季節性上漲一樣(同樣基于需求)。因此,我們通常控制用電量,在夏天將空調的溫度開得高一點。?
然而,更高的云計算成本可能不會對企業產生同樣的影響。企業可能會發現這些AI系統并非可有可無,而是驅動某些關鍵業務流程所必需的。在許多情況下,它們可能會試圖在內部節省資金,可能會采用減少員工數量以抵消AI系統的成本這種手段。生成式AI系統很快將取代許多信息工作者絕非什么秘密。?
我們能做些什么呢?
如果對運行AI系統的資源的需求會導致更高的計算成本和碳排放量,我們能做些什么呢?答案或許在于找到更高效的方法讓AI充分利用處理器、網絡和存儲等資源。?
比如說,對流水線進行采樣可以通過減少處理的數據量來加快深度學習。麻省理工學院(MIT)和IBM的研究表明,使用這種方法可以減少在大型數據集上運行神經網絡所需的資源。然而這也限制了準確性,這對于一些商業用例而言是可以接受的,但不是對所有商業用例而言都可以接受。?
另一種已經在其他技術領域應用的方法是內存中計算。這種架構可以通過避免數據進出內存來加快AI處理速度。相反,AI計算直接在內存模塊中運行,這大大加快了速度。?
其他方法正在開發中,比如改變物理處理器(使用協處理器處理AI計算以提高速度)或者采用量子計算等下一代計算模型。可以預料,大型公共云提供商會在近期紛紛宣布能夠解決許多這些問題的技術。?
您該怎么辦?
本文倒不是說要避免AI,以降低云計算費用或拯救地球。AI是一種基礎性的計算方法,大多數企業都可以利用它來創造巨大價值。?
建議您在進行基于AI的開發項目或全新的AI系統開發項目時,應清楚地了解成本和可持續性方面的影響,兩者密切相關。您必須做出成本/效益選擇,這實際上回到了老話題:投入所需的成本、冒一定的風險后,可以為公司帶來什么樣的價值。這方面沒什么新意。?
我相信,這個問題基本上有望通過創新得到解決,無論創新是內存中計算、量子計算還是其他尚未出現的技術。AI技術提供商和云計算提供商都熱衷于讓AI更具成本效益和更節能環保,這是好消息。?
原文標題:??The cost and sustainability of generative AI??,作者:David S. Linthicum