AMD正式推出了Instinct MI300 APU,它結合了Zen4 CPU核心和CDNA 3 GPU核心以及多達1530億個電晶體管和192GB HBM3。
AMD、Intel和NVIDIA這三大晶片製造商目前都在競相提供世界上第一個CPU和GPU組合。Intel的產品將是Falcon Shores,它將x86 CPU與領先的GPU相結合,但這些計劃沒有實現,Intel在可預見的未來延遲了該項目。
與此同時NVIDIA的答案是Grace和Hopper Superchips的形式,它們將Grace ARM CPU封裝與Hopper H200 GPU結合在同一塊板上,但這與AMD採用小晶片和封裝整合的Zen4 CPU和CDNA3 GPU核心的設計仍然相去甚遠。
AMD透露了AMD Instinct MI300系列加速器家族的新細節,包括推出AMD Instinct MI300X加速器,這是世界上最先進的生成AI加速器。MI300X採用下一代AMD CDNA 3加速器架構,支援192GB的HBM3,以提供大型語言模型訓練和生成AI工作負載推理所需的計算和記憶體效率。
借助AMD Instinct MI300X的大記憶體,客戶現在可以在單個MI300X加速器上安裝大型語言模型,例如Falcon-40,40B參數模型。AMD還推出了AMD Instinct™ 平台,該平台將八個MI300X加速器整合到一個行業標準設計中,為AI推理和訓練提供終極解決方案。MI300X從第三季開始向主要客戶提供樣品。AMD 還宣布全球首款用於HPC和AI工作負載的APU加速器AMD Instinct MI300A現已向客戶提供樣品。
透過AMD
因此截至目前AMD真正負責以Instinct MI300 APU的形式提供首款整合x86 CPU和GPU。同樣的APU將成為確保AMD在AI領域的戰略主導地位的主導產品。AMD Instinct MI300 APU將為El Capitan超級電腦提供動力,提供超過2 Exaflops的雙精度計算。總結AMD Instinct MI300 APU的一些突出特點,我們有:
首款整合CPU+GPU封裝
- 瞄準Exascale級超級電腦市場
- AMD MI300A(整合CPU + GPU)
- AMD MI300X(僅限GPU)
- 1530億個電晶體管
- 多達24個Zen4核心
- CDNA3 GPU架構
- 高達192GB HBM3
- 多達8個小晶片+8個記憶體堆棧(5nm+6nm製程)
- MI300A現在提供樣品,MI300X下個季提供樣品,2023年第四季量產
AMD將為其Instinct MI300“CDNA3”APU使用5nm和6nm製程。該晶片將配備下一代Infinity Cache,並採用支援CXL 3.0生態系統的第四代Infinity架構。
Instinct MI300加速器將採用統一的記憶體APU架構和新的數學格式,與CDNA2相比,每W性能提升5倍。與採用CDNA2的Instinct MI250X加速器相比,AMD 還預計AI性能提高8倍以上。CDNA3 GPU的UMAA將CPU和GPU連接到一個統一的HBM包,消除冗餘記憶體,同時提供低TCO。
AMD Instinct MI300將提供兩種版本:MI300A和MI300X。APU將包含多個3D小晶片封裝,所有這些封裝組合在一起以容納1530億個瘋狂的電晶體管。這些電晶體管包括各種核心IP、記憶體接口、互連等等。CDNA3架構是Instinct MI300的基本DNA,但APU還配備了多達304個CDNA3計算單元,總共24,576個核心,並有24個Zen4核心,以及高達192GB的下一代HBM3在8192位元記憶體匯流排配置中運行。以下是這些配置在GPU CU、CPU核心和記憶體方面的劃分方式:
- MI300A - 6 XCDs (Up To 228 CUs), 3 CCDs (Up To 24 Zen 4 Cores), 8 HBM3 Stacks (128 GB)
- MI300X - 8 XCDs (Up To 304 CUs), 0 CCDs (Up To 0 Zen 4 Cores), 8 HBM3 Stacks (192 GB)
如您所見AMD的Instinct MI300 APU將採用純CPU、純GPU和CPU+GPU整合型號的各種配置。Instinct MI300A和Instinct MI300X將針對CPU/GPU工作負載。
AMD的Instinct MI300 APU系列將與稱為SH5的全新插槽相容,並允許使用最新的Infinity Fabric互連和新的互連配置多達四個此類晶片,以實現更快的頻寬和互連速度。伺服器解決方案將以AMD Instinct平台的形式出現,該平台將包含8個MI300和高達1.5TB的HBM3,全部採用行業標準設計。
在最新的性能比較中,AMD展示了與Instinct MI250X相比,Instinct Mi300的AI性能 (TFLOPs) 提高了8倍,每W AI性能 (TFLOPs/watt) 提高了5倍。AMD的Instinct MI300A APU加速器現已出樣,MI300X將於2023年第三季出樣。這兩款產品預計也將在2023年第四季量產。
消息來源 |