來源：機器之心
你的 iPhone 14 到貨了嗎？有人已經把 Core ML 的性能測試出來了。
每年蘋果發布新版 iPhone 之后，圖片編輯軟件 PhotoRoom 的公司團隊都會測試一下新 iPhone 的 Core ML 性能。現在，前幾天發布的 iPhone 14 的基準測試結果出爐了。
PhotoRoom 團隊的這項系列測試旨在探究蘋果公司最新硬件的計算能力，以及計算能力的提升對設備上的機器學習系統意味著什么。
Core ML 是蘋果集成多個 API 構建的機器學習框架，允許 iOS 開發人員發布和執行機器學習模型，以加速在 iPhone、iPad、Apple Watch 上的人工智能任務。
今年，PhotoRoom 分析了多個 iPhone 機型和 iOS 版本上的 Core ML 性能。
實驗設置
作為一款圖片編輯軟件 ，圖片裁剪和摳圖是 PhotoRoom 非常重要的基礎功能。
這項功能依托于 iPhone 上的 Core ML 框架執行，PhotoRoom 團隊基于此任務在多個 iPhone 機型和 iOS 版本上進行了基準測試，包括：
iPhone 12 Pro A14 Bionic ( iOS 15 + iOS 16 )
iPhone 13 Pro A15 Bionic ( iOS 15 + iOS 16 )
iPhone 14 Pro A16 Bionic ( iOS 16 )
iPad Pro 2021 M1 ( iOS 15 + iOS 16 )
MacBook Pro 2021 M1 Pro ( macOS 12 )
對于每個設備，該團隊根據不同的 Core ML 計算配置（包括僅在 CPU 上運行、GPU+CPU、ALL、神經網絡引擎（ANE）+CPU），統計了模型的平均執行時間（不包括模型加載時間）。其中，每個設備、操作系統版本和計算單元配置都測量了 40 次并取平均值，結果如下：
這些測試結果表明：
從 CPU 到 GPU 再到 ANE ，運行速度持續提升；
當在 iOS 16 上從 ALL 轉到 ANE+CPU 時，推理時間（幾乎）持續增加，這表明模型中的一些層無法在 ANE 上運行，而是默認使用 GPU；
操作系統版本對整體性能的影響似乎可以忽略不計；
在 A 系列芯片（A14 Bionic - A15 Bionic - A16 Bionic）中，所有配置的性能都有緩慢而穩定的提升。蘋果公司也稱其新的 A16 Bionic 芯片（17 TFlops）比 A15 Bionic（15.8 TFlops）提高了 7.5%，使得推理時間從 iPhone 13 Pro 的 45ms 縮短到 iPhone 14 Pro 的 41ms；
iPad Pro 的 M1 芯片與新的 A16 Bionic 相比，CPU 和 ANE 的性能相當，并其 M1 的 GPU 似乎更強一些。這也許和 M1 芯片比 A16 Bionic 具有更多 GPU 內核有關。
值得注意的是，從這項基準測試看，MacBook Pro 中 M1 Pro 芯片的性能似乎并不比 iPad Pro 中的 M1 芯片好很多，甚至 ANE 的表現要差一些。
對于新發布的產品，iPhone 14 Pro 的推理時間縮短至 41ms，這是一個重要的突破。但這項測試也顯示出蘋果神經網絡引擎還存在一些問題。
