加速邊緣 AI 發展 Arm 推出 Ethos-U85 NPU 及 Corstone-320 物聯網參考設計平台

Arm 宣佈推出 Arm Ethos-U85 NPU，是目前效能最高且效率最佳的 Ethos NPU 產品以及 Arm Corstone-320 物聯網參考設計平台，以加速語音、音訊和視覺系統的部署。



對於使用環境甚至電源都容易受限的物聯網與邊緣裝置，現在也紛紛加入不同等級的 AI 功能，以加速各種不同特定的應用。針對邊緣運算及物聯網等裝置對於 AI 的需求，Arm 宣佈推出 Arm Ethos-U85 NPU 這款目前 Ethos NPU 系列效能最高且效率最佳的產品以及 Arm Corstone-320 物聯網參考設計平台，以加速實現語音、音訊和視覺系統的部署。


（左起）Arm 台灣總裁曾志光、Arm 應用工程總監徐達勇及 Arm 物聯網事業部亞太區 IoT 市場資深經理黃晏祥


Arm Ethos-U85 NPU 擁有高運算及能源效率來加速神經網路

Arm Ethos-U85 NPU 是第三代因應邊緣 AI 的 NPU 產品，與上一代相比，Ethos-U85 效能提升四倍，能源效率提高20%。Ethos-U85 的 MAC (Multiply ACcumulate，乘積累積) 單元可從 128 個擴展到 2,048 個，讓 AI 計算是常用的卷積或是矩陣運算時，讓原本需要二個指令才能完成的乘與加變成只要用一個指令即可完成。因此 Ethos-U85 若是 1GHz 頻率運作 2048個 MAC 時，就可擁有高達 4 TOPs(2048x2x1G=4096G=4T)運算能力，將可為如工廠自動化、商用監視器或智慧家庭攝影機等需要更高效能的應用提供較多的算力支援。


Arm Ethos-U85 NPU 比之前產品擁有更多的 MAC 而擁有更快的 AI 效能

Ethos-U85 支援 Transformer 架構和卷積神經網路（Convolutional  Neural Networks, CNNs）以進行 AI 推理，Transformer 架構將推動新的應用，特別是視覺和生成式 AI 的應用中，對於理解影片、填補圖像缺失或分析來自多個攝影鏡頭的資料以進行圖像分類和目標檢測等任務非常有效。


Arm Ethos-U85 NPU 可與Armv9 Cortex-A 處理器搭配以加速處理機器學習

隨著微處理器被部署到例如工業機器視覺、穿戴式裝置和消費性機器人等更多高效能的物聯網系統中，Ethos-U85 可與 Armv9 Cortex-A 處理器搭配以加速處理機器學習，並為更廣泛的、更高效能的裝置，提供高效率的邊緣推理能力。

目前 Arm Ethos NPU 系列產品已有超過 20 家授權合作夥伴，其中 Alif Semiconductor 和英飛凌更是 Ethos-U85 NPU 的早期採用者。而 Ethos-U85 支援一致工具鏈，合作夥伴能夠利用現有的軟體投資，讓軟體工程師以及開發人員能夠快速上手。更重要的是 Ethos-U85 NPU 也支援TensorFlow Lite 和 PyTorch 等 AI 框架。


Corstone-320 物聯網參考設計平台


Corstone-320 整合軟硬體與工具加速產品開發

為了讓開發者更容易運用 Ethos-U85 NPU，Arm 也宣布推出 Corstone-320 物聯網參考設計平台，此平台整合 Arm 最高效能的 Cortex-M85 處理器、Mali-C55 ISP 和 Ethos-U85 NPU，可為語音、音訊和視覺等普遍的邊緣 AI 應用提供所需的效能，例如即時圖像分類和目標識別，或在智慧音箱上啟用具有自然語言翻譯功能的語音助理。平台更涵蓋軟體、工具和支援，包括 Arm 虛擬硬體，其結合軟、硬體的特性，將使開發人員能夠在晶片製成前便開始軟體開發工作，加速產品開發時程，為日益複雜的邊緣 AI 裝置縮短上市時間。