微軟推出NVIDIA採用Blackwell的高階Azure AI運算平台；還有專注於HPC的Azure AMD EPYC(HBM)

微軟在最近的Ignite活動中宣布了圍繞其人工智慧運算產品組合的一些重大進展，揭示了NVIDIA Blackwell與Azure的整合以及帶有客製化HBM記憶體的新型 AMD EPYC Genoa晶片。

可以說，微軟在向公眾提供針對人工智慧的服務方面處於領先地位，因為該公司龐大的人工智慧運算庫使其在市場上擁有獨家地位。在最近的Microsoft Ignite活動上該公司透露了在Azure平台上使用NVIDIA Blackwell AI產品的情況，特別是最新的Azure ND GB200 V6 VM系列，這是該公司首款採用Blackwell的虛擬機器。

更深入了解技術，據報導Azure ND GB200 V6虛擬機配備了兩個GB200 Grace Blackwell超級晶片，每個晶片都配備了兩個高效能Blackwell GPU和一個Grace CPU，透過NVIDIA的NVLink互連。有趣的是透過板載多個NVLink托盤，微軟可以設法提供多達18個運算伺服器，最終在單一平台上提供72個NVIDIA Blackwell GPU。對於最新的虛擬機器來說，擴充不是問題，這歸功於NVIDIA的InfiniBand結構系統。

Azure ND GB200 V6 VM目前正與選定的合作夥伴一起處於私有預覽階段，微軟計劃很快向更廣泛的受眾推出該平台。除此之外微軟也在Azure平台上發布了一款採用CPU的虛擬機，稱為Azure HBv5，專門針對記憶體頻寬密集型HPC應用程式。

為了獲得最佳的工作負載和成本效率比，微軟決定與AMD合作，利用他們的第四代EPYC伺服器CPU。以下是詳細規格：

• 400-450GB RAM (HBM3) 的記憶體頻寬 (STREAM Triad) 為6.9TB/s
• 每個核心高達9GB記憶體（客戶可設定）
• 多達352個AMD EPYC Zen4 CPU核心，4GHz峰值頻率（客戶可配置）
• 與迄今為止的任何AMD EPYC伺服器平台一樣，CPU的Infinity Fabric總頻寬為2倍
• 停用SMT、僅限單一租用戶設計（每台伺服器1個虛擬機器）
• 800Gb/s的NVIDIA Quantum-2 InfiniBand，平衡為每個CPU SoC 200Gb/s
• Azure VMSS Flex可將MPI工作負載擴展到數十萬個HBM驅動的CPU核心
• 透過第二代Azure Boost NIC實現160Gbps的Azure加速網路
• 14TB本地NVMe SSD提供高達50GB/s的讀取頻寬和30GB/s的寫入頻寬
  

微軟也透露他們已成功將最新Azure HBv5 VM的效能比上一代同類產品提高了20倍。這確實顯示了AMD EPYC平台在市場上的主導地位，該平台的銷量也已經超過了Intel。總體而言微軟的人工智慧產品組合無疑計劃成為目前最好的產品組合之一，使該公司能夠充分利用人工智慧的炒作。

消息來源