由於AI成當紅炸子雞,NVIDIA的AI顯示卡現在是供不應求,其中高階的A100、H100尤為搶手,廠商皆是大批量下單,而NVIDIA亦在加速下單,最近更是找到了外援,產能大增30%。
NVIDIA高階GPU採用了台積電7nm、5nm製程代工,但是產能瓶頸不在先進製程上,而是所用的CoWos先進封裝上,之前亦是仰賴台積電,但台積電的產能提升有限,還有AMD等公司的訂單搶產能。
最新消息指稱,聯電開始為NVIDIA提供外援了,7月份起每個月增加3000片晶圓的CoWos中介層產能,然後再有另一家封測大廠Amkor封裝,三方的合作使得A100、H100的整體產能提升了30%。
供應量提升了,A100、H100等顯示卡的供應情況應該會有所舒緩,下半年有望解決加價搶購的狀況。
H100採用GH100 GPU核心,客製版台積電4nm製程製造,800電晶體,整合18432個CUDA核心、576個Tensor核心、60MB L2快取,支援6144-bit HBM高頻寬記憶體,支援PCIe 5.0。
效能方面,FP64/FP32 60TFlops(每秒60兆次),FP16 2000TFlops,TF32 1000TFlops,皆三倍於A100,FP8 4000TFlops,六倍於A100。
訊息來源 |