原本PC、伺服器市場需求陷入了下降週期,然而今年由於AIGC人工智慧技術的火爆,NVIDIA的高階GPU反而供不應求,最頂級的H100顯示卡現在訂單都排到了明年。ChatGPT引發的AI熱潮仍在繼續,AI算力成為各大廠商投資的重點,而在這個領域中NVIDIA的AI顯示卡幾乎是唯一選擇,因此今年湧入了大量急單,導致NIVIDIA的訂單已經排到了2024年,很多廠商要半年甚至近一年才能拿到產品。
訂單在手,NVIDIA也緊急向台積電下單增產A100、H100等高性能AI顯示卡,導致後者的5nm產能利用率幾近滿載,現在台積電採用的是超級急件的方式給NVIDIA生產。
即便如此,訂單到今年底都是滿載的。H100採用GH100 GPU核心,定製版台積電4nm製程製造,800億電晶體管,整合18432個CUDA核心、576個Tensor核心、60MB L2,支援6144-bit HBM高頻寬記憶體,支援PCIe 5.0。
H100計算卡有SXM、PCIe 5.0兩種樣式,其中SXM版本15872個CUDA核心、528個Tensor核心,PCIe 5.0版本14952個CUDA核心、456個Tensor核心,功耗最高達700W。性能方面FP64/FP32 60TFlops(每秒60萬億次),FP16 2000TFlops,TF32 1000TFlop都三倍於A100,FP8 4000TFlops六倍於A100。
消息來源 |