耐能推出具有低能耗支援輕量級 GPT 的 KL730 AI 晶片可應用於多種領域

耐能宣布推出最新的 KL730 AI 晶片，具有高 AI 運算性能及低功耗的表現，可支援輕量級 GPT 大型語言模型，可應用於智慧家居及汽車輔助駕駛等各類應用中。



隨著 ChatGPT 的熱潮，讓更多人知道人工智慧(AI)，也出現許多人工智慧的應用。然而許多的應用在都依靠後方 AI 伺服器運算，在大量存取之下，自然就需要強大算力，也代表要消耗更多的電力，也就是更多的營運成本。為了減少傳輸的資料與運算需求，業界很早就提出邊緣運算的想法，然而許多邊緣裝置本身僅有特定用途的 AI 運算，在功耗等考量下，運算能力有限。

在 2015年於美國聖地牙哥創立的耐能(Kneron)，擁有自行研發的高能效輕量及可重構神經網路架構，今日宣佈推出 KL730 AI 晶片，新產品整合車規級 NPU 和影像訊號處理器（ISP），可將安全而低耗能的 AI 應用於邊緣伺服器／裝置、智慧家居及汽車輔助駕駛系統等各類應用場景中。

KL730 從設計之初就以實現 AI 功能為目的，並升級節能及安全等多種創新技術，而擁有多通道介面設計，更可無縫接入圖片、影片、聲音和毫米波等各種數位訊號支援各種產業的人工智慧應用開發。更重要是而 AI 性能表現大幅提升，不僅比耐能之前的產品提升三至四倍，也比業界中同等產品高出 150% 至 200%。


耐能創辦人兼執行長劉峻誠

耐能創辦人兼執行長劉峻誠表示：「執行 AI 功能需要專用的晶片，其架構與我們以前瞭解的晶片完全不同。重新使用相鄰技術（如圖形處理使用 GPU），並無法勝任這項工作，而 KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和支援 Transformer 等框架，將可為各行業提供強大的 AI 能力，在極具安全性和保護資料隱私下充分發揮人工智慧的潛力。」

耐能長期專注於邊緣 AI，並研發一系列輕量且可擴展的AI 晶片，包括在 2021年推出首款支援 Transformer 神經網路架構的 KL530 邊緣 AI 晶片。Transformer 神經網路架構正是所有 GPT（Generative Pre-trained Transformer）模型的基礎，KL730 同樣支援 Transformer，具有每秒 0.35 - 4 tera 有效計算能力，擴展支援最先進的輕量級 GPT 大型語言模型（如 nanoGPT）的能力。

KL730 採用 ARM Cortex-A55 四核心處理器，具有行動裝置等級的運算能力，以處理各種基本運算。在 AI 運算部分則採用耐能新一代智慧可重組化神經網路 NPU 處理器，擁有 3.6 eTOPS AI 運算能力，可支援最新的人工智慧網路模型和架構，包括 Transformer、CNN、LSTM、RNN 等，，並可同時執行多種人工智慧模型。KL730 可應用於本地端 nano ChatGPT，與小型 LLM 模型的交互運作。

除了 AI 運算核心之外，KL730 還具有已經經過許多客戶及市場驗證的影像訊號處理器(ISP)，其靈活的架構設計包括壓縮／切片模式，可與 NPU 搭配應用在全彩低照度、場景檢測外，也能利用人工智慧提升 HDR 或是動態拼接的能力。

KL730 其高 AI 運算性能與低功耗的設計，在 4K 串流同時加 AI 模型運算下，其功耗小於1.5W。由於耐能獨特的架構設計，設計者將可依照需求組合不同數量的晶片，以擁有更強的 AI 運算能力。


耐能 KL730 可應用於智慧交通與安防

目前許多 AI 應用者都會考量資料的安全性，而 KL730 可配合耐能的 KNEO 私有安全邊緣AI 網路，讓 AI 在用戶的邊緣設備上運作以保護資料隱私。使用者亦能將部分或全部資料完全離線在終端執行 GPT 模型，以確保資料安全性，這樣的應用從企業伺服器、產品設計、智慧駕駛到以 AI 驅動的醫療設備，更高的安全性可允許設備之間進行協作，同時保護資料的安全。

KL730 的應用目標將以結合 AI 運算與影像處理為主，包括安全監控、邊緣運算、AIoT 以及車用／ADAS 等。由於 KL730 擁有強大的 AI 及 ISP，正好可應用在城市安防、家用網路攝影機、全景攝影機以及機器人等領域。特別在超廣角的監控場景中，KL730 透過專有的硬體魚眼校正模組，可對180/360/720度影像校正和拼接，比傳統魚眼校正佔用更少資源且效率更高，並可針對校正後的影像進行 AI 識別及應用。


KL730 可應用於智慧家居

在車用方面，由 KL730 所設計的人臉辨識模組可整合到駕駛車門、A柱、B柱或任何需進行身份確認的區域，以生物識別技術讓駕駛進入車輛。至於駕駛輔助 ADAS 部分，則可應用 KL730 強大的 ISP 核心，可有效的適應行車過程中「過曝」或「過暗」等複雜光線場景，並可即時對場景中的多個目標進行辨識，也能應用於盲點偵測、碰撞預警、駕駛行為偵測、預警疲勞駕駛等。


耐能 KL730 擁有高 AI 效能與低功耗特性以便部署於邊緣裝置等應用

KL730 的高效與低能耗的特性，可應用於網路前端的邊緣運算，容易部署與擴充，相比雲端伺服器擁有更低的總體成本且更為安全。在支援影像與語音辨識下，更可搭配 5G 廣泛應用於工業物聯網、智慧城市、智慧工廠、智慧閘道等領域。

耐能從 2015 年成立以來，其可重構的 NPU 架構獲得許多產業認可，並獲得包括 IEEE Darlington Award 等多種獎項，終端產品已進入多個產業，從 AIoT 到智慧駕駛安全及邊緣伺服器，包括豐田、廣達電子、中華電信、Panasonic、韓華等。新的 KL730 將在近期即可提供樣品給設備製造商。