神經(jīng)引擎這回行了嗎？iPhone 14 Core ML性能測評已出

你的 iPhone 14 到貨了嗎？有人已經(jīng)把 Core ML 的性能測試出來了。

每年蘋果發(fā)布新版 iPhone 之后，圖片編輯軟件 PhotoRoom 的公司團(tuán)隊(duì)都會測試一下新 iPhone 的 Core ML 性能?，F(xiàn)在，前幾天發(fā)布的 iPhone 14 的基準(zhǔn)測試結(jié)果出爐了。
PhotoRoom 團(tuán)隊(duì)的這項(xiàng)系列測試旨在探究蘋果公司最新硬件的計算能力，以及計算能力的提升對設(shè)備上的機(jī)器學(xué)習(xí)系統(tǒng)意味著什么。
Core ML 是蘋果集成多個 API 構(gòu)建的機(jī)器學(xué)習(xí)框架，允許 iOS 開發(fā)人員發(fā)布和執(zhí)行機(jī)器學(xué)習(xí)模型，以加速在 iPhone、iPad、Apple Watch 上的人工智能任務(wù)。
今年，PhotoRoom 分析了多個 iPhone 機(jī)型和 iOS 版本上的 Core ML 性能。
實(shí)驗(yàn)設(shè)置
作為一款圖片編輯軟件，圖片裁剪和摳圖是 PhotoRoom 非常重要的基礎(chǔ)功能。

這項(xiàng)功能依托于 iPhone 上的 Core ML 框架執(zhí)行，PhotoRoom 團(tuán)隊(duì)基于此任務(wù)在多個 iPhone 機(jī)型和 iOS 版本上進(jìn)行了基準(zhǔn)測試，包括：

• iPhone 12 Pro A14 Bionic (iOS 15 + iOS 16)
• iPhone 13 Pro A15 Bionic (iOS 15 + iOS 16)
• iPhone 14 Pro A16 Bionic (iOS 16)
• iPad Pro 2021 M1 (iOS 15 + iOS 16)
• MacBook Pro 2021 M1 Pro (macOS 12)

對于每個設(shè)備，該團(tuán)隊(duì)根據(jù)不同的 Core ML 計算配置（包括僅在 CPU 上運(yùn)行、GPU+CPU、ALL、神經(jīng)網(wǎng)絡(luò)引擎（ANE）+CPU），統(tǒng)計了模型的平均執(zhí)行時間（不包括模型加載時間）。其中，每個設(shè)備、操作系統(tǒng)版本和計算單元配置都測量了 40 次并取平均值，結(jié)果如下：

這些測試結(jié)果表明：

• 從 CPU 到 GPU 再到 ANE ，運(yùn)行速度持續(xù)提升；
• 當(dāng)在 iOS 16 上從 ALL 轉(zhuǎn)到 ANE+CPU 時，推理時間（幾乎）持續(xù)增加，這表明模型中的一些層無法在 ANE 上運(yùn)行，而是默認(rèn)使用 GPU；
• 操作系統(tǒng)版本對整體性能的影響似乎可以忽略不計；
• 在 A 系列芯片（A14 Bionic - A15 Bionic - A16 Bionic）中，所有配置的性能都有緩慢而穩(wěn)定的提升。蘋果公司也稱其新的 A16 Bionic 芯片（17 TFlops）比 A15 Bionic（15.8 TFlops）提高了 7.5%，使得推理時間從 iPhone 13 Pro 的 45ms 縮短到 iPhone 14 Pro 的 41ms；
• iPad Pro 的 M1 芯片與新的 A16 Bionic 相比，CPU 和 ANE 的性能相當(dāng)，并其 M1 的 GPU 似乎更強(qiáng)一些。這也許和 M1 芯片比 A16 Bionic 具有更多 GPU 內(nèi)核有關(guān)。

值得注意的是，從這項(xiàng)基準(zhǔn)測試看，MacBook Pro 中 M1 Pro 芯片的性能似乎并不比 iPad Pro 中的 M1 芯片好很多，甚至 ANE 的表現(xiàn)要差一些。

對于新發(fā)布的產(chǎn)品，iPhone 14 Pro 的推理時間縮短至 41ms，這是一個重要的突破。但這項(xiàng)測試也顯示出蘋果神經(jīng)網(wǎng)絡(luò)引擎還存在一些問題。

原文鏈接：https://www.photoroom.com/tech/core-ml-performance-2022/