【ITBEAR】鳳凰網(wǎng)科技訊(作者/于雷)北京時間10月22日,驍龍8至尊版正式發(fā)布,移動端AI表現(xiàn)全面發(fā)力。高通CEO克里斯蒂亞諾·安蒙表示,未來智能手機重要體驗將圍繞AI展開,手機將成為最重要的AI智能體,人們與手機之間的互動將圍繞著個人需求展開,現(xiàn)有的App生態(tài)將產(chǎn)生巨大的變革。
驍龍8至尊版搭載第二代Oryon CPU和增強的高通HexagonNPU,利用高通AI引擎優(yōu)勢,能夠帶來更強大的終端側生成式AI處理能力。
結合高通AI軟件棧以及行業(yè)領先的工具套件,包括高通AI模型增效工具包(AIMET)等,為模型提供了全棧優(yōu)化能力。通過使用基于硬件的INT4量化技術,可以大幅提升終端側的運行效率,端側推理實現(xiàn)首個token生成時延達到150ms,解碼速率達到超過30 tokens/秒。
高通宣布與騰訊混元合作,基于驍龍8至尊版移動平臺,共同推動了騰訊混元大模型7B和3B版本的終端側部署。通過利用終端側AI加速,降低運營成本,進一步擴展生成式AI在終端側的應用和普及。
智譜也是高通在大模型方面的合作伙伴,智譜的GLM-4V端側視覺大模型會面向驍龍8至尊版進行深度適配和推理優(yōu)化,支持多模態(tài)交互。