英國晶片Imagination Technologies推出了其最新的神經網路平台,該平台旨在瞄準自動駕駛ADAS(高級駕駛員輔助系統)。該平台被稱為IMG Series4 NNA,旨在滿足各種性能需求的各種應用。該公司表示該產品將於今年12月在市場上發售,因為該產品已獲得許可。
Imagination的平台建立在三個支柱上,該公司聲稱這將使它不僅能夠大規模擴充性能,而且還能以減少延遲,減少頻寬和功耗的方式管理工作負載。該公司認為Series4神經加速器核心能夠計算介於12.5 trillion至驚人的每秒 500 trillion次運算(TOPS)之間的任何值。
它透過將單個Series4核心通過高頻寬互連連結到其他核心來實現此目的,最大群集大小為8。群集中的核心將通過互連連接,群集也可以由通過系統匯流排分隔的四個核心組成-整個程序包都連接到外部雙倍數據速率(DDR)。每個核心還擁有一個核心上記憶體(OCM),它構成了平台計算能力的關鍵組成。
Imagination承諾Series4平台能夠提供高達30 TOPS / Watt的功耗和12 TOPS /mm²的性能/單位面積。更重要的是這些晶片將在5nm製程上製造,這是目前台灣台灣半導體製造公司(TSMC)或韓國技術龍頭三星的三星代工廠在市場上可用的最新製程。
多核和多集群設計還將使核心可以同時執行多個工作負載,也可以專注於單個工作負載-取決於用途。如果所有核心都專注於單個任務,則系統的等待時間(即處理器接收輸入和生成輸出之間的時間間隔)會在一定程度上減少已分配給該任務的核心數量。換句話說執行單個任務的單個核心與執行相同任務的八核群集之間的延遲差異應大致為八倍。
Series4 NNA系列的一個不可或缺的組成部分是記憶體管理功能,Imagination將其稱為Tensor Tiling。從外觀上看,這是一種內部技術,Tensor Tiling的專利仍在等待批准中。透過Tensor Tiling,Imagination聲稱在Series4上將頻寬減少多達90%。Tensor Tiling允許平台將神經網路數據隔離為一個子集的一個子集。第一個子集是神經網路從根本上打造的一層-更多層也突出了更高的複雜性。
Tensor Tiling將這些層劃分為Tensors ,並將批處理劃分為子集,然後由NNA核心進行處理。據該公司稱這減少了等待時間,因為它減少了整個事務對外部儲存的依賴性。
最後Imagination還表示即使添加了更多核心,Series4的性能指標也大致線性相同。該公司的數據顯示對於某些工作負載,性能可以完美地線性縮放,並且當層數增加到50,且輸入影像解析度降低到224x224時,它可以線性縮放到我們近似的值的六個核心,然後性能對核心的依賴才會開始向下。
Series4也符合ISO26262標準,通過該系列該公司可提供令人印象深刻的性能,使汽車製造商能夠認真地轉向更高水平的自動駕駛。它擁有的擴充性能的能力應有助於採用,因為開發人員可以利用Tensor tiling的優勢來處理各種應用。
消息來源 |