AMD推出MI300A和MI300X的Instinct MI300 APU：CDNA 3 GPU、24個Zen4 Core、192GB HBM3

AMD正式推出了Instinct MI300 APU，它結合了Zen4 CPU核心和CDNA 3 GPU核心以及多達1530億個電晶體管和192GB HBM3。

AMD、Intel和NVIDIA這三大晶片製造商目前都在競相提供世界上第一個CPU和GPU組合。Intel的產品將是Falcon Shores，它將x86 CPU與領先的GPU相結合，但這些計劃沒有實現，Intel在可預見的未來延遲了該項目。

與此同時NVIDIA的答案是Grace和Hopper Superchips的形式，它們將Grace ARM CPU封裝與Hopper H200 GPU結合在同一塊板上，但這與AMD採用小晶片和封裝整合的Zen4 CPU和CDNA3 GPU核心的設計仍然相去甚遠。

AMD透露了AMD Instinct MI300系列加速器家族的新細節，包括推出AMD Instinct MI300X加速器，這是世界上最先進的生成AI加速器。MI300X採用下一代AMD CDNA 3加速器架構，支援192GB的HBM3，以提供大型語言模型訓練和生成AI工作負載推理所需的計算和記憶體效率。

借助AMD Instinct MI300X的大記憶體，客戶現在可以在單個MI300X加速器上安裝大型語言模型，例如Falcon-40，40B參數模型。AMD還推出了AMD Instinct™ 平台，該平台將八個MI300X加速器整合到一個行業標準設計中，為AI推理和訓練提供終極解決方案。MI300X從第三季開始向主要客戶提供樣品。AMD 還宣布全球首款用於HPC和AI工作負載的APU加速器AMD Instinct MI300A現已向客戶提供樣品。

透過AMD

因此截至目前AMD真正負責以Instinct MI300 APU的形式提供首款整合x86 CPU和GPU。同樣的APU將成為確保AMD在AI領域的戰略主導地位的主導產品。AMD Instinct MI300 APU將為El Capitan超級電腦提供動力，提供超過2 Exaflops的雙精度計算。總結AMD Instinct MI300 APU的一些突出特點，我們有：

首款整合CPU+GPU封裝

• 瞄準Exascale級超級電腦市場
• AMD MI300A（整合CPU + GPU）
• AMD MI300X（僅限GPU）
• 1530億個電晶體管
• 多達24個Zen4核心
• CDNA3 GPU架構
• 高達192GB HBM3
• 多達8個小晶片+8個記憶體堆棧（5nm+6nm製程）
• MI300A現在提供樣品，MI300X下個季提供樣品，2023年第四季量產
  

AMD將為其Instinct MI300“CDNA3”APU使用5nm和6nm製程。該晶片將配備下一代Infinity Cache，並採用支援CXL 3.0生態系統的第四代Infinity架構。

Instinct MI300加速器將採用統一的記憶體APU架構和新的數學格式，與CDNA2相比，每W性能提升5倍。與採用CDNA2的Instinct MI250X加速器相比，AMD 還預計AI性能提高8倍以上。CDNA3 GPU的UMAA將CPU和GPU連接到一個統一的HBM包，消除冗餘記憶體，同時提供低TCO。


AMD Instinct MI300將提供兩種版本：MI300A和MI300X。APU將包含多個3D小晶片封裝，所有這些封裝組合在一起以容納1530億個瘋狂的電晶體管。這些電晶體管包括各種核心IP、記憶體接口、互連等等。CDNA3架構是Instinct MI300的基本DNA，但APU還配備了多達304個CDNA3計算單元，總共24,576個核心，並有24個Zen4核心，以及高達192GB的下一代HBM3在8192位元記憶體匯流排配置中運行。以下是這些配置在GPU CU、CPU核心和記憶體方面的劃分方式：

• MI300A - 6 XCDs (Up To 228 CUs), 3 CCDs (Up To 24 Zen 4 Cores), 8 HBM3 Stacks (128 GB)
• MI300X - 8 XCDs (Up To 304 CUs), 0 CCDs (Up To 0 Zen 4 Cores), 8 HBM3 Stacks (192 GB)
  

如您所見AMD的Instinct MI300 APU將採用純CPU、純GPU和CPU+GPU整合型號的各種配置。Instinct MI300A和Instinct MI300X將針對CPU/GPU工作負載。

AMD的Instinct MI300 APU系列將與稱為SH5的全新插槽相容，並允許使用最新的Infinity Fabric互連和新的互連配置多達四個此類晶片，以實現更快的頻寬和互連速度。伺服器解決方案將以AMD Instinct平台的形式出現，該平台將包含8個MI300和高達1.5TB的HBM3，全部採用行業標準設計。

在最新的性能比較中，AMD展示了與Instinct MI250X相比，Instinct Mi300的AI性能 (TFLOPs) 提高了8倍，每W AI性能 (TFLOPs/watt) 提高了5倍。AMD的Instinct MI300A APU加速器現已出樣，MI300X將於2023年第三季出樣。這兩款產品預計也將在2023年第四季量產。

消息來源