← Back to list

Arm Ethos-U-Vela 可支援的 TFLite 運算子

作者:Jack OmniXRI, 2026/02/06

Jack omnixri · 2026-02-06 16:39 · 0 claps · 2.6 min read
#ethos-u #vela-compiler #tensorflow-lite #npu #omnixri
Open on Medium ↗
Wiki topics: ML · Machine Learning

Arm Ethos-U-Vela 可支援的 TFLite 運算子

作者:Jack OmniXRI, 2026/02/06

參考資料來源: https://gitlab.arm.com/artificial-intelligence/ethos-u/ethos-u-vela/-/blob/main/SUPPORTED_OPS.md

Arm 為了讓 Cortex-M55/M85/M82 單晶片(MCU)更適用於 AI 推論應用,通常會搭配微型神經網路處理器(MicroNPU) Ethos-U55/U65/U85 進行硬體加速。為了讓 PyTorch / TensorFlow 等框架訓練出來模型能更順利在這種組合的晶片上運行,通常會先將模型轉換成 TensorFlow Lite (.tflite)格式,最後再經過 Arm Vela Compiler 轉換成適合 MCU 及 NPU 的 TFLite 格式( _vela.tflite)。

轉換過程中若 TFLite 運算子(Operators, Ops)可滿足 NPU 硬體特性,則 Vela Compiler 會將其送至 NPU 執行,其它無法處理的運算子就交給 MCU 處理。Cortex-M55/M85/M82 使用 M-Profile Vector Extension (MVE 或稱 Helium) 指令集,可處理向量計算,搭配 Arm CMSIS-NN 函式庫可大幅優化及加速計算。

為了讓大家更清楚不同的 MicroNPU 可以支援哪些 TFLite(現稱 LiteRT) 運算子,可參考下表。更多的使用方式及限制可參考原文

Vela 版本:4.5.0

更多關於 Ethos-U55/U65 及 Ethos-U85 的完整介紹,可參考下列連結。


메타데이터
post_id
d2c2da7453f3
slug
arm-ethos-u-vela-可支援的-tflite-運算子-d2c2da7453f3
url
https://medium.com/@omnixri/arm-ethos-u-vela-%E5%8F%AF%E6%94%AF%E6%8F%B4%E7%9A%84-tflite-%E9%81%8B%E7%AE%97%E5%AD%90-d2c2da7453f3
canonical_url
https://medium.com/@omnixri/arm-ethos-u-vela-%E5%8F%AF%E6%94%AF%E6%8F%B4%E7%9A%84-tflite-%E9%81%8B%E7%AE%97%E5%AD%90-d2c2da7453f3
author_url
https://medium.com/@omnixri
status
ok
fetched_at
2026-06-10 14:03:00