【ITBEAR】聯發科近期推出的天璣9400芯片,憑借其強大的AI算力,已成為2024年旗艦手機芯片的標桿,并將應用于vivo新款手機。這一芯片不僅提升了AI性能,更為手機用戶帶來了更多元化的體驗。然而,手機AI的發展是否只能依賴高算力芯片,成為業界關注的焦點。
在此背景下,RockAI另辟蹊徑,通過算法優化而非單純提升算力,實現了AI大模型在各類設備上的無損部署。其自研的Yan架構大模型,采用非Transformer架構和類腦激活機制,顯著降低了計算復雜度和算力消耗。
RockAI最新發布的Yan1.3大模型,具備處理文本、語音、視覺等多模態信息的能力,可在主流消費級CPU等端側設備上無損運行,且性能卓越。這一成就標志著AI大模型不再受限于高算力設備,而是能夠廣泛應用于各類終端設備。
Yan1.3大模型的本地部署特性,還為用戶帶來了數據安全和隱私保護的優勢。在本地處理用戶數據,避免了重要資料和個人信息的外泄,同時減少了對網絡傳輸的依賴,滿足了用戶在各種場景下的需求。
Yan1.3大模型還具備高效運行和快速響應的特點,能夠在CPU上實現秒級響應,在GPU上更是達到百毫秒級實時處理。這一性能使得不同終端設備的交互體驗更加流暢和絲滑。
RockAI致力于實現機器的群體智能,Yan架構大模型作為其面向機器的群體智能單元大模型,不僅提升了單個設備的能力,還為機器注入了新的智能基因。當智能體間的交互壁壘被打破,它們將能夠像人類一樣交流協作,釋放出超越個體的能力。
RockAI的創新之路,為AI大模型在終端設備上的應用提供了新的思路。在AI技術日益普及的今天,如何更好地服務用戶、保護用戶隱私,成為業界共同關注的課題。