今天Intel宣布打造出全球最大的神經擬態系統。這個代號為Hala Point的大規模神經擬態系統最初部署在桑迪亞國家實驗室，採用Intel Loihi 2處理器，旨在支援未來類腦人工智慧（AI）的研究，並解決與效率和永續性相關的挑戰當今的人工智慧。 Hala Point改進了Intel第一代大規模研究系統Pohoiki Springs，其架構經過改進，神經元容量提高了10倍以上，性能提高了12倍。
當今人工智慧模型的運算成本正在以不可持續的速度上升。該行業需要能夠擴展的全新方法。因此我們開發了Hala Point，它將深度學習效率與新穎的大腦啟發學習和優化功能結合起來。我們希望與Hala Point的研究將提高大規模人工智慧技術的效率和適應性。 ——Mike Davies，Intel實驗室神經擬態計算實驗室主任
用途：Hala Point是第一個在主流人工智慧工作負載上展示最先進運算效率的大型神經擬態系統。表徵表明在執行傳統深度神經網路時，它可以支援每秒高達20千萬億次操作，即20 Petaops，效率超過每秒每瓦15兆次8位元操作 (TOPS/W)。這可以與採用圖形處理單元 (GPU) 和中央處理單元 (CPU) 的架構相媲美並超過其所達到的水平。 Hala Point的獨特功能可實現未來人工智慧應用的即時持續學習，例如科學和工程問題解決、物流、智慧城市基礎設施管理、大語言模型 (LLM) 和人工智慧代理。
如何使用：桑迪亞國家實驗室的研究人員計劃使用Hala Point進行先進的大腦規模計算研究。該組織將專注於解決設備物理、電腦體系結構、電腦科學和資訊學方面的科學計算問題。
Craig Vineyard表示：與Hala Point 的合作提高了我們桑迪亞團隊解決計算和科學建模問題的能力。使用如此規模的系統進行研究將使我們能夠跟上人工智慧在商業、國防和基礎科學等領域的發展步伐。
目前Hala Point還是一個研究原型，但未來將提高商業系統的功能。Intel預計這些經驗教訓將帶來實際進步，例如LLM能夠從新數據中持續學習。這些進步有望顯著減輕廣泛人工智慧部署帶來的不可持續的訓練負擔。
為什麼重要：最近將深度學習模型擴展到數兆個參數的趨勢暴露了人工智慧領域令人畏懼的可持續性挑戰，並強調了在最低硬體架構層面進行創新的必要性。神經形態計算是一種全新的方法，它藉鑒了神經科學的見解，將記憶體和計算與高粒度並行性整合在一起，以最大限度地減少資料移動。在本月舉行的國際聲學、語音和信號處理會議 (ICASSP) 公佈的結果中，Loihi 2展示了新興小規模邊緣工作負載的效率、速度和適應性方面的數量級提升。
Hala Point在其前身Pohoiki Springs的基礎上進行了大量改進，現在為主流傳統深度學習模型帶來了神經擬態性能和效率提升，特別是那些處理視頻、語音和無線通信等即時工作負載的模型。例如愛立信研究中心正在應用Loihi 2來優化電信基礎設施效率，正如今年世界行動大會所強調的。
關於Hala Point：Loihi 2神經形態處理器構成了Hala Point的基礎，應用了受大腦啟發的計算原理，例如異步、採用事件的尖峰神經網絡 (SNN)、整合記憶體和計算以及稀疏且連續變化的連接實現能源消耗和性能的數量級提升。神經元直接相互通信，而不是透過記憶體進行通信，降低了整體功耗。
Hala Point將在Intel 4製程上生產的1,152個Loihi 2處理器封裝在一個微波爐大小的六機架單元資料中心機殼中。該系統支援分佈在140,544個神經形態處理核心上的多達11.5億個神經元和1,280億個突觸，最大功耗為2,600瓦。它還包括2,300多個用於輔助運算的嵌入式x86處理器。
Hala Point將處理、記憶體和通訊通道整合在大規模平行結構中，提供總共16PB/s的記憶體頻寬、3.5PB/s的核心間通訊頻寬和5TB/s的頻寬（ TB/s）的晶片間通訊頻寬。該系統每秒鐘可以處理超過380兆個8位元突觸和超過240兆個神經元操作。
應用於仿生尖峰神經網路模型時，該系統可以以比人腦快20倍的速度執行其11.5億個神經元的全部容量，並且在較低容量下的速度最高可達200倍。雖然哈拉點並非用於神經科學建模，但其神經元容量大致相當於貓頭鷹大腦或卷尾猴的皮質。
採用Loihi的系統可以執行人工智慧推理並解決最佳化問題，能耗比傳統CPU和GPU架構快50倍，能耗減少100倍。透過利用高達10:1的稀疏連接和事件驅動的活動，Hala Point的早期結果表明該系統可以實現高達15 TOPS/W2的深度神經網路效率，而無需將輸入資料收集到批次中，這是一種常見的最佳化GPU會顯著延遲即時到達的資料（例如來自攝影機的視訊）的處理。儘管仍處於研究階段，未來具有持續學習能力的神經擬態LLM可以透過消除使用不斷增長的資料集進行定期重新訓練的需要，從而節省千兆瓦時的能源。
下一步：Hala Point向桑迪亞國家實驗室交付標誌著Intel計劃與其研究合作者共享的大型神經擬態研究系統新系列的首次部署。進一步的開發將使神經形態運算應用程式能夠克服限制人工智慧功能在現實世界中即時部署的功率和延遲限制。
Intel與由200多名Intel神經擬態研究社群(INRC) 成員組成的生態系統（包括全球領先的學術團體、政府實驗室、研究機構和公司）一起，致力於突破類腦人工智慧的界限，並從研究原型開始推動這項技術未來幾年領先業界的商業產品。
消息來源 |
收藏
分享
分享
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
顯身卡
