近日3D NAND快閃記憶體和3D DRAM創新技術的領先開發商NEO Semiconductor宣布推出其3D X-AI晶片技術，旨在取代高頻寬記憶體（HBM） 內部的現有DRAM晶片，透過在3D DRAM中實現AI處理來解決資料匯流排頻寬瓶頸。
NEO Semiconductor稱3D X-AI可以減少AI工作負載期間HBM和GPU之間傳輸的大量數據，這將徹底改變AI晶片的性能、功耗和成本，助力各類生成式AI應用。具體來說採用NEO Semiconductor的3D X-AI技術的AI晶片可以實現：
1、100倍效能加速：包含8，000 神經元電路，可在3D記憶體中執行AI處理；
2、功耗降低99%：最大限度地減少將資料傳輸到GPU進行運算的需求，從而降低資料匯流排的功耗和發熱。
3、8倍記憶體密度：包含300個DRAM層，並允許通過類似HBM的堆疊，可以運行更大的AI模型。
其實早在2023年5月NEO Semiconductor就宣布將推出全球首款3D DRAM技術，該技術的思維跟3D NAND Flash類似，都是透過堆疊層數來提高記憶體容量，類似於3D NAND Flash晶片中的FBC浮閘極技術，但增加一層Mask光罩就可以形成垂直結構，因此良率高，成本低，密度大幅提升。
NEO Semiconductor當時就表示其將推出的第一代3D X-DRAM就可以做到230層堆疊，核心容量128Gb，而目前2D DRAM記憶體的核心容量還在16Gb。而此次NEO Semiconductor推出的3D X-AI晶片，就是在進一步提升3D X-DRAM層數的基礎上加入了面向AI的神經元電路。
具體來說單一3D X-AI 晶片包括300層容量為128Gb的3D DRAM單元和一層有8000個神經元的神經迴路。根據NEO Semiconductor公佈的數據，這可以支援每個晶片高達10TB/s的AI處理吞吐量。如果使用12個3D X-AI晶片透過類似HBM的堆疊封裝， 則可實現120TB/s的處理吞吐量，從而實現100倍的效能提升。
消息來源 |
收藏
分享
分享
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
顯身卡
