(PR)SK hynix推出首款用於Gen AI的GDDR6-AiM加速卡,AiMX原型
SK hynix於9月12日至14日在聖克拉拉萬豪酒店舉行的2023年人工智慧硬體和Edge人工智慧高峰會上,推出並展示了AiMX(採用記憶體的加速器)原型,這是一種採用GDDR6 -AiM的Gen人工智慧加速卡。人工智慧硬體和Edge人工智慧高峰會每年由英國公司Kisaco Research主辦,匯聚全球IT公司和知名初創公司,分享他們在人工智慧和機器學習方面的進展。這是SK hynix第三次參加高峰會。在此次活動中,該公司展示了AiMX的原型,這是一款結合了多個GDDR6-AiM以進一步增強性能的加速卡,以及GDDR6-AIM本身,口號是Boost Your AI:Discover the Power of PIM(處理-記憶體中)與SK hynix的AiM(記憶體加速器)。作為一種能夠處理大量數據的低功耗、高速記憶體解決方案,AiMX將在數據密集型Gen人工智慧系統的發展中發揮關鍵作用。Gen人工智慧的性能隨著更多數據的訓練而提高,這凸顯了對可應用於一系列Gen人工智慧系統的高性能產品的需求。
SK hynix還在配備AiMX原型的伺服器系統上展示了Meta的Gen AI Open Pretrained Transformer (OPT) 13B模型。與配備GPU的系統相比,採用GDDR6-AiM 的AiMX系統可將數據處理時間縮短10倍以上,而功耗卻只有五分之一。該公司的展示表明它可以提供比最新加速器更高的性能,從而激起了全球提供人工智慧服務的公司的興趣。
此外該公司還舉行了一次會議,概述了AiMX的優勢。解決方案開發部門副總裁Eui-cheol Lim在題為使用AiM實現經濟高效的Gen AI推理加速的演講中,解釋SSK hynix的AiMX是一種解決方案,可提供更高的性能,同時消耗更少的電量,並且成本比傳統GPU更低。我們將繼續開發引領人工智慧時代的儲存技術。
消息來源
頁:
[1]