據外媒報導消息,NVIDIA最快將自9月開始大量採購12層HBM3E記憶體,此些記憶體將由三星獨家供貨。
於GTC 2024上,NVIDIA執行長黃仁勳在三星的12層HBM3E實體產品上留下了”黃仁勳認證(JENSEN APPROVED)”簽名。
SK海力士因部分工程問題,未能推出12層HBM3E產品,但計劃自本(3)月底開始批量生產8層HBM3E產品。
今年2月27日,三星官方宣布成功開發出業界首款36GB 12H(12層堆疊)HBM3E DRAM記憶體。
據介紹,HBM3E 12H能夠提供高達1280GB/s頻寬及迄今為止最高的36GB容量,相較於8層堆疊的HBM3 8H,於頻寬及容量上提升超過50%。同時相較於8層堆疊,其AI訓練速度平均提高34%,同時推理服務使用者數量亦可增加超過11.5倍。
於日前的GTC 2024上,NVIDIA正式發表了B200、GB200系列晶片。據黃仁勳介紹,B200擁有2080億個電晶體,採用台積電4NP製程,可支援高達10兆個參數的AI大型語言模型,亦透過單一GPU提供20 PetaFLOPS的AI效能。
訊息來源 |