SK Hynix正致力於為AI領域開發採用DDR5的CXL 2.0記憶體解決方案,特別是針對記憶體匱乏的LLM。
CXL指的是Compute Express Link,這是一種互連技術,可在CPU和GPU之間實現更快的資料傳輸,但就AI而言,它實際上是在CPU和加速器之間。
CXL受益於傳統PCIe匯流排,因為它使GPU能夠直接存取系統記憶體,從而顯著提高效能。鑑於現代儲存技術無法滿足大規模人工智慧模型所需的能力,CXL協議最近引起了市場的巨大興趣。為了解決這個問題,SK Hynix和其他公司正在努力採用採用CXL的記憶體解決方案。
SK Hynix系統架構副總裁在韓國的活動中討論了開發CXL記憶體模組的可能性,並解釋了該公司在這一特定領域的進展。以下是該官員的原話:
目前AI記憶體本質上是圖形處理單元(GPU),但高頻寬記憶體(HBM)並沒有那麼大,因此它總是記憶體飢餓。我們正在努力調整AI的CXL記憶體。
Kyoung Park - SK Hynix研究副總裁(來自 Business Korea)
據透露SK Hynix目前正在研發採用DDR5的96GB和128GB CXL 2.0記憶體產品,預計在2025年下半年上市。
最近韓國新創公司Panmnesia也展示了一款尖端的CXL IP,它允許GPU利用DRAM甚至SSD的記憶體,從內建的HBM進行擴展,因此這是該技術的另一種方式。
可惜的是SK Hynix尚未展示CXL 2.0記憶體解決方案;因此我們現在無法評論它們對人工智慧應用的有效性。不過據說三星今年預計將推出自己的256GB CXL 2.0 記憶體模組,因此這可能會讓我們更清楚地了解這項技術的發展前景。
消息來源 |