NVIDIA Blackwell GB200為Microsoft Azure的最新A4 VM提供支援,運算和HBM容量提升2.25倍
微軟Azure獲得首個NVIDIA Blackwell GB200 NVL72系統來運行OpenAI,標誌著AI訓練和開發的一個重要里程碑。OpenAI現在透過NVIDIA的GB200 NVL72 Blackwell系統獲得了巨大的效能提升。雖然NVIDIA已經為OpenAI的AI模型提供支援,但擴展到Microsoft Azure以利用NVIDIA旗艦資料中心GPU的強大功能將透過嚴格的訓練進一步改進AI模型型。
在一篇推特貼文中Open AI CEO Sam Altman宣布Microsoft Azure目前正在運行GB200 NVL72系統的前八個完整機架。 Sam也感謝微軟CEO Satya Nadella和 NVIDIA CEO Jensen Huang讓這一目標成為現實。透過這些公司的合作,Azure OpenAI服務現在可以將微軟定位為AI工作負載領先的雲端供應商之一。
NVIDIA Blackwell GB200 NVL72系統採用機架式設計,包含36個Grace CPU和72個Blackwell GPU。有了8個這樣的機架,總共將有288個Grace CPU與多達76 個B200 GPU搭配。這可以產生令人難以置信的運算能力,因為單一機架可以產生高達6,480 TFLOPS的FP32性能和高達3,240 TFLOPS的FP64性能。現在這種運算能力可以提高八倍,實現近51,840 TFLOPS的FP32效能和25,920 TFLOPS的FP64效能。
憑藉如此卓越的運算效能,Azure OpenAI服務對於尋求擴展業務的企業來說非常有益。 NVIDIA Blackwell GB200 NVL72 功能強大,針對大規模生成性AI工作負載進行了最佳化,因為它提供高達576TB/s的高記憶體頻寬並帶來平行處理能力。
OpenAI目前使用多種NVIDIA GPU,包括NVIDIA V100、H100和A100,但Blackwell B20 是最先進的GPU晶片,與其前代產品相比,效能有顯著提升。由於微軟向OpenAI投資了近140億美元,因此它希望為客戶提供最強大的機器並佔據領先地位也就不足為奇了。
消息來源
頁:
[1]