5天突破百萬用戶,2個月突破1億用戶,頻頻打破史上增速最快消費級應用,這便是ChatGPT。ChatGPT在去年11月以AI聊天機器人的形式登場,但與過去所有的聊天機器人不同,似乎像個全能戰士,可以聊天、寫文章、寫代碼、修改 bug……ChatGPT被視為生成式AI里程碑,并以前所未有的速度和廣度,展現出其巨大的發展潛力。
然而隨著生成式AI模型參數規模的急劇擴張,對算力提出了巨大的挑戰,以及帶來的成本問題,無疑會影響生成式AI的普及。研究數據指出,每個生成式AI網絡搜索查詢的成本比傳統搜索高10倍,如果每天進行超過100億次查詢,每年的額外成本可能達數十億美元。 對此,在9月5日的服貿會上,高通給出的答案是混合AI。在高通發布的《混合AI是AI的未來》白皮書中,混合AI將支持生成式AI開發者和提供商利用邊緣終端的計算能力降低成本。不僅如此,混合AI架構或終端側AI還能夠在全球范圍帶來高性能、個性化、隱私和安全等優勢。
目前生成式AI主要采用云端部署運行,而混合AI指終端和云端協同工作,在適當的場景和時間下分配AI計算的工作負載,以提供更好的體驗,并高效利用資源,這其中5G承擔著連接云端算力和終端應用的關鍵橋梁。在5G的加持下,混合AI架構使AI在云端、邊緣云和終端側協同運行,使整個系統中的計算和處理能力能夠以最有效的方式重新分布,實現更強大、更便利、更高效、更優化的AI。
高通是全球領先的無線科技創新者,在5G等連接技術,以及AI、影像、圖形等技術領域擁有長期積累,已打造出“統一的技術路線圖”,將先進的連接、低功耗高性能計算和終端側AI等技術從手機高效擴展至不同行業中的下一代智能終端,包括汽車、VR頭顯、物聯網設備等。
今年的服貿會上,高通在展位上呈現了全球首個可以完全運行在安卓智能手機上的生成式AI大模型終端側演示,它能迅速理解用戶用自然語言描述的需求,憑借其掌握的超過10億與圖像相關的參數,執行多達20步推理,創作出用戶想要的圖像。值得注意的是,這些任務全部在手機端完成,全程無需聯網、無需訪問云端,且用時不超過15秒——這是迄今為止在智能手機上實現的最快的推理速度。
目前,在全世界范圍內,搭載了驍龍和高通平臺的智能終端數量已達到數十億臺。可以預見,5G連接所具有的高速率、低時延等優勢,將會讓混合AI架構更好地統籌運用云端、邊緣云和終端側的AI算力,從而讓更多消費者和行業用戶享受到生成式AI帶來的全新體驗。
高通公司全球副總裁侯明娟在服貿會成果發布活動上表示,隨著生成式AI帶來空前的創新和發展機遇,AI正以驚人的發展速度和強大的創新潛能,快速走進人們工作生活的方方面面,其變革千行百業的趨勢日益明顯。終端側AI是實現混合式AI架構、擴展生成式AI至全球更廣范圍的關鍵,期待日后能夠與更多合作伙伴成就全新的、更加豐富的商業模式和創新應用,進而惠及更多的行業和消費者,帶來更加便利和愉悅的數字化生活。