三星再次將注意力轉向PIM技術， 希望能在下一代AI應用中取代傳統HBM

三星在2021年推出了集成AI處理器的HBM2內存，名為“HBM-PIM (processing-in-memory) ”，最高可提供1.2 TFLOPS嵌入式計算能力，使內存芯片本身可以執行CPU、GPU、ASIC或FPGA的操作。三星在每個記憶體模組內註入了一個AI處理器，從而將處理操作轉移到HBM本身，從而減輕了記憶體與一般處理器之間轉移資料的負擔。

根據相關媒體報道，為了追趕競爭對手SK海力士，三星再次將注意力轉向PIM技術，希望能在下一代人工智慧（AI）應用中取代傳統HBM。 三星電子執行長兼設備體驗（DX）部門負責人韓宗熙最近在公開活動上表示，人工智慧正在以前所未有的速度改變生活，如何更負責任地使用AI變得越來越重要，三星正致力於培育更有效率、更永續的AI生態系統。

HBM是資料中心AI加速器的重要組成部分，但三星在這一領域長時間落後於SK海力士。為了重新確立自身在記憶體市場的領導地位，三星打算重新押注PIM技術，理論上能帶來翻倍的效能提升，同時平均能耗降低了近50%。

依照三星最初的構想，會將PIM技術擴展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3記憶體上，但後來遲遲沒有行動。三星在2022年曾對AMD Instinct MI100計算卡進行改造，加入了HBM-PIM晶片，然後使用96張經過改造的Instinct MI100計算卡構建了一個大型計算系統。相較於未改造前的系統，新系統在使用訓練語言模型演算法T5時效能提高了2.5倍，功耗降低至原來的2.67分之一。

三星也強調了與AMD的合作關係，傳聞正在向其供應HBM3E晶片。

消息來源