Arm? 今日宣布多項全新的戰略合作，繼續致力于推動人工智能 (AI) 的創新，并將 AI 的體驗變為現實。除了自身已能實現 AI 開發的技術平臺之外，Arm 還與 AMD、英特爾、meta、微軟、NVIDIA 和高通技術公司等領先的科技企業攜手合作，通過多項計劃，聚焦于先進 AI 能力的實現，由此帶來更快響應、更加安全的用戶體驗。這些合作計劃將在所有計算進行之處，助力 1500 多萬名 Arm 開發者，構建其所需的基礎框架、技術和規范，帶來新一代的 AI 體驗。
Arm 執行副總裁兼首席架構師與院士 Richard Grisenthwaite 表示：“AI 的廣泛應用依賴于軟、硬件創新的持續協同。小到邊緣側運行工作負載的小型傳感器，大到處理復雜工作負載以訓練大語言模型 (LLM) 的大型服務器，軟硬件的協同發展將在每個技術節點中，助力 AI 能力的提升。隨著整個生態系統不斷發掘 AI 的真正潛力，我們也將面臨安全性、可持續性和數據瓶頸等諸多挑戰。因此，繼續探索行業內的協作至關重要，為此，我們才能實現 AI 的規?；?，包括加大邊緣側的推理能力?！?/p>
助力邊緣 AI 發展
當下生成式 AI 和 LLM 正成為人們關注的焦點，而鑒于在智能手機領域，70% 的第三方 AI 應用都運行在 Arm CPU 上，Arm 已引領邊緣 AI 長達多年。在探索如何以可持續的方式實現 AI 并高效傳輸數據的同時，行業也需要繼續發展以實現在邊緣側運行 AI 和機器學習 (ML) 模型，然而，開發者在此卻面臨著計算資源日益受限的難題，使這個任務的實現充滿了挑戰。
Arm 正與 NVIDIA 展開合作，針對 NVIDIA TAO 進行適配。這是一套針對 Arm Ethos?-U NPU 使用的低代碼開源 AI 工具包，有助于構建性能優化的視覺 AI 模型，并將其部署于搭載 Ethos-U 的處理器上。NVIDIA TAO 提供了一個易使用的界面，可在免費且開源的領先 AI 和 ML 框架——TensorFlow 和 PyTorch 上進行構建工作，為開發者帶來輕松無縫的模型開發和部署環境，同時賦能邊緣設備實現更復雜的 AI 工作負載，提升 AI 體驗。
在所有設備與市場中推動神經網絡的應用
在邊緣側推進神經網絡的部署是實現 AI 可持續增長的重要一環。Arm 攜手 meta，通過 ExecuTorch，將 PyTorch 引入基于 Arm 架構的邊緣側移動和嵌入式平臺。ExecuTorch 可助力開發者更輕松地在移動和邊緣設備上，部署先進的 AI 和 ML 工作負載所需的先進神經網絡。Arm 與 meta 的合作將確保通過 PyTorch 和 ExecuTorch，開發者能在未來更輕松地開發和部署 AI 與 ML 模型。
與 meta 的合作依托于 Arm在 Tensor 運算符集架構 (TOSA) 方面的巨大投入，TOSA 為 AI 和 ML 加速器提供了通用框架，并支持廣泛的深度神經網絡工作負載。在基于 Arm 架構的各種處理器和數十億的設備上，TOSA 也將成為 AI 和 ML 的堅實基石。
推動產業規?；?/span> AI
若要以相對低的成本實現 AI 規?；涞?，支持廣泛的數據格式至關重要。Arm 一直在為諸多專注于 AI 工作負載的新型小數據類型提供支持。
去年，Arm、英特爾和 NVIDIA聯合發布了新型 8 位浮點規范，即“FP8”。自此 FP8 格式發展迅猛，參與合作的企業已擴大至 AMD、Arm、谷歌、英特爾、meta 和 NVIDIA，并共同制定了正式的ments/ocp-8-bit-floating-point-specification-ofp8-revision-1-0-2023-06-20-pdf" target="_self">OCP 8 位浮點規范 (OFP8)。在最新的 A-profile 架構更新中，Arm 添加了與該標準一致的 OFP8，以助力其在行業內神經網絡中的快速普及。OFP8 是交換 8 位數據格式，使軟件生態系統能夠輕松共享神經網絡模型，從而不斷提高數十億設備上的 AI 計算能力。
開放的標準對于推動 AI 生態系統的創新、一致性與互操作性至關重要。為繼續支持相關標準的行業協作，Arm 于近日正式加入了 MX 聯盟，該聯盟旗下成員包括了 AMD、Arm、英特爾、meta、微軟、 NVIDIA 和高通技術公司。近期，MX 聯盟針對名為微擴展的新技術，進行技術規范的合作。這項技術基于芯片設計領域多年的探索與研究，是一種用于 AI 應用的窄位(8 位和 8 位以下)訓練與推理的精細擴展方法。該規范對窄位數據格式進行了標準化，以消除行業的碎片化，實現 AI 的規?；?。
秉承合作精神，MX 聯盟通過開放計算項目 OCP，以開放、免許可的形式發布了 MX 規范。OCP 項目由超大規模數據中心運營商和計算基礎設施領域的其他行業參與者組成，旨在促進相關技術在業內的廣泛采用。這也體現了各方認識到在生態系統中對可擴展 AI 解決方案提供公平訪問的必要需求。
前所未有的 AI 創新
Arm 已成為全球 AI 部署的基礎。Arm 致力于為開發者提供構建先進、復雜的 AI 工作負載所需的技術，而上述的種種合作只是Arm 眾多舉措中的一部分。從傳感器、智能手機和軟件定義汽車，到服務器和超級計算機，Arm 將成為未來 AI 發展的基石。
– 完 –
