【ITBEAR】聯(lián)發(fā)科近期推出的天璣9400芯片，憑借其強大的AI算力，已成為2024年旗艦手機芯片的標桿，并將應用于vivo新款手機。這一芯片不僅提升了AI性能，更為手機用戶帶來了更多元化的體驗。然而，手機AI的發(fā)展是否只能依賴高算力芯片，成為業(yè)界關注的焦點。
在此背景下，RockAI另辟蹊徑，通過算法優(yōu)化而非單純提升算力，實現(xiàn)了AI大模型在各類設備上的無損部署。其自研的Yan架構大模型，采用非Transformer架構和類腦激活機制，顯著降低了計算復雜度和算力消耗。
RockAI最新發(fā)布的Yan1.3大模型，具備處理文本、語音、視覺等多模態(tài)信息的能力，可在主流消費級CPU等端側(cè)設備上無損運行，且性能卓越。這一成就標志著AI大模型不再受限于高算力設備，而是能夠廣泛應用于各類終端設備。
Yan1.3大模型的本地部署特性，還為用戶帶來了數(shù)據(jù)安全和隱私保護的優(yōu)勢。在本地處理用戶數(shù)據(jù)，避免了重要資料和個人信息的外泄，同時減少了對網(wǎng)絡傳輸?shù)囊蕾嚕瑵M足了用戶在各種場景下的需求。
Yan1.3大模型還具備高效運行和快速響應的特點，能夠在CPU上實現(xiàn)秒級響應，在GPU上更是達到百毫秒級實時處理。這一性能使得不同終端設備的交互體驗更加流暢和絲滑。
RockAI致力于實現(xiàn)機器的群體智能，Yan架構大模型作為其面向機器的群體智能單元大模型，不僅提升了單個設備的能力，還為機器注入了新的智能基因。當智能體間的交互壁壘被打破，它們將能夠像人類一樣交流協(xié)作，釋放出超越個體的能力。
RockAI的創(chuàng)新之路，為AI大模型在終端設備上的應用提供了新的思路。在AI技術日益普及的今天，如何更好地服務用戶、保護用戶隱私，成為業(yè)界共同關注的課題。
