12月17日, GTC China 2020大會上,阿里云異構計算產品負責人潘岳表示,人工智能行業(yè)需求發(fā)生了明顯的變化,云上AI業(yè)務的推理需求占比首次超過50%,阿里云GPU云服務器從四年前的gn4到今年新發(fā)布的gn7,單實例異構算力提升了100倍。
異構計算是最能發(fā)揮AI效率的計算方式。潘岳介紹,阿里云提供了超大規(guī)模的云上異構計算集群,每秒可支撐100億億次的異構運算,能夠在1秒內看懂超過5.3億張圖片;識別3.3億秒/9.2萬小時長的語音,相當于聽寫了1723本《紅樓夢》長篇小說或者26萬篇短篇小說;1秒內可以翻譯4千萬句話,相當于翻譯了42本《哈姆雷特》。
4年前,云上80%的AI需求來自訓練業(yè)務。但在2020年,云上AI推理業(yè)務的占比已經超過一半。潘岳表示,這也標志著阿里云異構計算進入新的階段,即軟硬一體的云上異構基礎設施。
具體來說,用戶不僅需要深度學習框架軟件,更需要與之適配的硬件來發(fā)揮GPU的算力,例如阿里云神龍AI加速器和FastGPU等極速部署工具,就通過池化算力帶來靈活的計算調度,云服務器從特定配置向serverless方向發(fā)展。這些可幫助客戶在訓練場景下提升2倍到10倍的性能,在推理場景下提升2倍到4倍的性能,節(jié)省至少50%的成本。
以阿里云IoT的圖像分類業(yè)務為例。阿里云神龍 AI 加速AIACC團隊,和IoT智能業(yè)務研發(fā)團隊緊密合作,將大規(guī)模圖像分類分布式訓練性能提升5倍,讓算法研發(fā)效率得以顯著的提升,成本得以大幅下降。
“AI業(yè)務從最早的推理占比不到20%,到今天占比過半;原來只有人工智能初創(chuàng)公司探索,到落地各行各業(yè);云上異構業(yè)務從單一深度學習訓練場景,到今天的訓練推理、云桌面、圖形圖像設計等多元化場景。阿里云異構計算是企業(yè)數(shù)字化、智能化轉型的見證者,也是實踐者。”潘岳表示。
