輝達揭最新AI晶片「H200」股價連9漲 性能較H100提升近一倍
https://news.xfastest.com/wp-content/uploads/2023/11/2-3-1.jpg在2023年全球超算大會（SC2023）上，晶片巨頭輝達發佈了H100晶片的繼任者，也是目前世界最強的AI晶片——H200。相比於其前任產品H100，H200的性能直接提升了60%到90%。https://news.xfastest.com/wp-content/uploads/2023/11/4824810.png不僅如此，H200與H100一樣都是基於輝達Hopper架構打造，這也意味著兩款晶片可以互相相容，對於使用H100企業而言，可以無縫更換成新的H200。同時H200還是輝達首款使用HBM3e記憶體的晶片，速度更快容量更大，更適合用於大語言模型的訓練或者推理。除了HBM3e記憶體外，H200的記憶體容量為141GB，頻寬從H100的3.35TB/s增加到了4.8TB/s。H200的性能提升最主要體現在大模型推理表現上，H200 在700億參數的Llama2大模型上的推理速度比H100快了一倍，而且在推理能耗上H200相比H100直接降低了一半。
對於顯存密集型HPC應用，H200更高的顯存頻寬能夠確保高效地訪問運算元據，與CPU相比，獲得結果的時間最多可提升110倍。輝達表示H200預計將於2024年第二季度出貨，售價還暫未公佈，不過在算力荒下，大科技公司們估計還是會瘋狂囤貨資料來源
頁:
[1]