文章分享：

收藏0 分享

恩傑NZXT F120Q靜音風扇-22.5dBA最大噪音，靜音與效能最佳平衡點

BIOSTAR映泰推出 MS-X7433RE 工業運算解決方案小巧設計完美結合空間利用與強大工業級效能

COUGAR 搖搖沙發 FIDOM 與 CROSSER GOLD 電競椅凳開箱

豪宅機殼的頂峰? LIANLI 聯力O11 Vision Compact 機殼，打造頂級視覺機殼的標竿

+ MORE活動推薦：

: GEX PRO 850W玩家開箱體驗分享活動
卓越性能，超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證，實現高達 ...

: 體驗極速WiFi 7！MSI Roamii BE Lite Mesh
第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

: 極致效能為遊戲而生 990 PRO SSD 玩家體驗
[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

: Micron Crucial PRO D5 6400超頻版玩家開
解銷更快的遊戲速度！利用低延遲遊戲記憶體的強大功能利用 Cruci ...

[顯示卡器] 配備94GB HBM3的NVIDIA H100 NVL GPU是專為ChatGPT設計

[複製鏈接]| 回復

電梯直達

1^#

sxs112.tw 發表於 2023-3-22 07:24:25 | 只看該作者 |只看大圖回帖獎勵

|倒序瀏覽 |閱讀模式

NVIDIA剛剛推出了其全新的Hopper H100 NVL GPU，配備94GB HBM3，專為ChatGPT設計。

NVIDIA Hopper GPU驅動的H100 NVL PCIe顯示卡據說有雙GPU NVLINK互連，每個晶片有94GB的HBM3e。GPU能夠隨時隨地處理多達1750億個ChatGPT參數。與配備多達8個GPU的傳統DGX A100伺服器相比，單個伺服器中的四個GPU可以提供高達10倍的速度。

與H100 SXM5配置不同，H100 PCIe提供精簡規格，在GH100 GPU的全部144個SM和H100 SXM上的132個SM中啟用了114個SM。該晶片本身提供3200 FP8、1600 TF16和48 TFLOPs的FP64計算能力。它還有456個Tensor & Texture單元。

由於其較低的峰值計算能力，H100 PCIe應該會以較低的時脈執行，因此TDP為350W，而SXM5版本的TDP為雙倍的700W。但是PCIe卡將保留其80GB記憶體，透過5120位元匯流排，但採用HBM2e版本（>2TB/s頻寬）。

H100的非Tensor FP32 TFLOP額定值為48 TFLOP，而MI210的峰值額定FP32計算能力為45.3 TFLOP。透過Sparsity與Tensor運算，H100可以輸出高達800 TFLOPs的FP32運算能力。與MI210的64GB相比，H100還擁有更高的80GB記憶體容量。從表面上看NVIDIA正在為其更高的AI/ML功能收取更高的售價。

消息來源