回首2023年科技產(chǎn)業(yè)最大的驚喜是生成式AI，在該技術(shù)的幫助下，人們可以用真正的自然語言與計算機進(jìn)行交流。這一以前只能出現(xiàn)在科幻電影里的場景，僅在一年時間里，就走入人們?nèi)粘Ｉ睢＝眨咄夹g(shù)公司公共關(guān)系副總裁Clare Conley撰文表示，生成式AI在幾乎每個行業(yè)都是無可爭議的變革性技術(shù)，2024年人們將繼續(xù)感受到它帶來的影響。高通正在積極地開發(fā)部署領(lǐng)先的邊緣AI、高性能低功耗計算、以及5G等連接技術(shù)，為更多用戶隨時隨地提供AI能力。
不過目前生成式AI的發(fā)展，尤其是廣泛地普及應(yīng)用，還有成本、隱私、時延等許多困難需要克服。將生成式AI從云端向終端側(cè)轉(zhuǎn)移，成為加速生成式AI普及的重要路線。在Clare Conley的文章中，高通技術(shù)公司高級副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉(Durga Malladi)表示：“隨著生成式AI日益融入人們的生活，5G智能手機、PC、汽車甚至物聯(lián)網(wǎng)設(shè)備等個人終端，將成為多模態(tài)生成式AI模型的中樞。”
此前不管是文本生成式AI ChatGPT，或者圖片生成式AI Midjourney，主要通過云端向用戶提供生成服務(wù)。這些云端生成式AI服務(wù)極度依賴GPU，而支持AI云端運算的GPU一直奇貨可居，GPU的供應(yīng)能力，成為制約生成式AI普及擴展的最大的阻力。而隨著終端側(cè)設(shè)備的AI計算能力的不斷提升，發(fā)展終端側(cè)生成式AI，能幫助AI產(chǎn)業(yè)突破眼前的這一困境。在5G手機、PC、智能汽車等終端側(cè)運行生成式AI，能拓寬消費者和企業(yè)獲取強大生成式AI能力的途徑。馬德嘉表示：“生成式AI從云端轉(zhuǎn)向個人終端的轉(zhuǎn)變，能為消費者和企業(yè)提供更關(guān)注隱私和更個性化的全新AI體驗，并能為開發(fā)者降低云成本。隨著終端側(cè)運行多模態(tài)生成式AI大模型的能力不斷提升，從云端向混合AI或終端側(cè)AI的轉(zhuǎn)變勢不可擋。”
終端側(cè)AI的性能，在2023年獲得飛速的發(fā)展。以高通的移動平臺為例，在2023年10月底舉行的驍龍峰會中，高通發(fā)布第三代驍龍8 5G移動平臺，該平臺將智能手機的AI能力提升到全新水平，可在0.6秒內(nèi)生成一張圖片，可以運行超過100億參數(shù)規(guī)模的生成式AI模型。由于該平臺優(yōu)異的表現(xiàn)，在人民網(wǎng)主辦的第二十屆人民匠心獎評選活動中，獲評人民匠心技術(shù)獎。在PC方面，高通發(fā)布全新一代AI PC平臺驍龍X Elite，可提供驚人的75TOPS算力，以及在筆記本電腦上運行超130億參數(shù)的生成式AI大模型。隨著5G智能手機、PC等終端側(cè)AI性能的高速提升，2024年，生成式AI也將帶領(lǐng)智能終端走向全新的篇章。
