NVIDIA Blackwell Ultra正式上市,為資料中心提供大幅提升的記憶體容量和升級的 AI 運算能力。
Blackwell在首次推出時遇到了一些小問題,但該公司一直在努力確保其最新AI強大產品的供應處於更好的狀態,並為主要AI和資料中心供應商提供最新的硬體和解決方案。最初的B100和B200 GPU系列提供了大量的AI運算能力,該公司將透過下一代產品Blackwell Ultra樹立新的行業標準。
這些B300晶片將在Blackwell基礎上擴展,不僅提供高達12-Hi HBM3E的更高記憶體密度,還提供更強大的運算能力以實現更快的AI。這些晶片將與最新的Spectrum Ultra X800乙太網路交換器(512-Radix)結合在一起。
新聞稿: Blackwell Ultra採用一年前推出的突破性Blackwell架構打造,包括NVIDIA GB300 NVL72機架級解決方案和NVIDIA HGX B300 NVL16系統。 GB300 NVL72的AI性能比NVIDIA GB200 NVL72高出1.5倍,同時與使用NVIDIA Hopper打造的機器相比,Blackwell的AI工廠的收入機會提高了50倍。
NVIDIA GB300 NVL72採用機架級設計連接72個Blackwell Ultra GPU和36個採用Arm Neoverse的NVIDIA Grace CPU,充當為測試時間擴展而打造的單一大型 GPU。借助NVIDIA GB300 NVL72,AI模型可以利用平台增強的運算能力來探索問題的不同解決方案,並將複雜的請求分解為多個步驟,從而獲得更高品質的回應。
GB300 NVL72預計也將在NVIDIA DGX Cloud上推出,這是一個領先雲端的端到端、完全託管的AI平台,可透過軟體、服務和AI專業知識優化不斷變化的工作負載的效能。搭載DGX GB300系統的NVIDIA DGX SuperPOD採用GB300 NVL72機架設計。
與Hopper世代相比,NVIDIA HGX B300 NVL16在大型語言模型上的推理速度提高了11倍,計算能力提高了7倍,記憶體增加了4倍,從而為AI推理等最複雜的工作負載提供了突破性的性能。
消息來源 |