sxs112.tw 發表於 前天 09:13

NVIDIA宣布推出配備Quad Blackwell GPU和Dual Grace CPU的GB200 NVL4,H200 NVL現已全面上市

NVIDIA推出了最新的Blackwell GB200 NVL4解決方案,將四個GPU和兩個GPU打包到一個強大的HPC和AI解決方案中。

作為SC24公告的一部分,NVIDIA推出了兩種全新的硬體平台,一種採用其現有的Hopper組合,另一種則由其最新的Blackwell組合提供支援。這兩種解決方案專為企業伺服器而設計,為加速的HPC和AI工作負載提供支援。

從NVIDIA H200 NVL開始,該公司現在正在確認這些採用PCIe的Hopper卡的普遍可用性,這些卡可以透過NVLINK連接多達4個GPU,提供比標準PCIe解決方案快七倍的頻寬。該公司表示H200 NVL解決方案可以適合任何資料中心,並提供一系列針對混合HPC和AI工作負載進行最佳化的靈活伺服器配置。在規格方面Hopper H200 NVL解提供1.5倍的HBM記憶體、1.7倍的LLM推理效能和1.3倍的HPC效能。您將獲得114個SM,總共14,592個CUDA核心、456個Tensor核心以及高達3 TFLOP的FP8(累積FP16)效能。 GPU有跨5120位元配置的80Gb HBM2e記憶體,TDP為350W。

轉向Blackwell,NVIDIA首次展示NVIDIA GB200 NVL4,這是一個全新的模組,是原始GB200 Grace Blackwell Superchip AI解決方案的更大擴展。 GB200 NVL4 模組使CPU和GPU功能加倍,並且還增加了記憶體。

您將在一塊帶有兩個Grace CPU的較大主機板上配置兩個Blackwell GB200 GPU。該模組被設計為單伺服器解決方案,有4-GPU NVLINK和1.3T Coherent memory。在性能方面,此模組的模擬性能將提高2.2倍,訓練和推理性能將提高1.8倍。 NVIDIA越來越多的合作夥伴將在未來幾個月內提供NVL4解決方案。

至於TDP,由於Superchip模組約為2700W,預計更大的GB200 NVL4解決方案將消耗接近6KW的功率。不難看出NVIDIA為加速AI運算領域所做的努力。

該公司最近在MLPerf v4.1中公佈了訓練和推理方面的世界紀錄,不僅Blackwell令人驚嘆,而且Hopper透過持續優化也變得更加出色。該公司還正在將其人工智慧路線圖加快到一年的節奏,並計劃在未來幾年建立幾個新的基礎設施,例如Blackwell Ultra和Rubin。

消息來源
頁: [1]
查看完整版本: NVIDIA宣布推出配備Quad Blackwell GPU和Dual Grace CPU的GB200 NVL4,H200 NVL現已全面上市