找回密碼註冊
返回列表 發新帖
作者: ellen
查看: 5317
回復: 0

文章標籤：

文章分享：

+ MORE精選文章：

相關帖子

+ MORE活動推薦：

GEX PRO 850W玩家開箱體驗分享活動

卓越性能，超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證，實現高達 ...

體驗極速WiFi 7！MSI Roamii BE Lite Mesh

第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

極致效能 為遊戲而生 990 PRO SSD 玩家體驗

[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度！ 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

打印 上一主題 下一主題

[業界新聞] 輝達揭最新AI晶片「H200」股價連9漲 性能較H100提升近一倍

[複製鏈接]| 回復
跳轉到指定樓層
1#
ellen 發表於 2023-11-15 11:37:34 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
在2023年全球超算大會（SC2023）上，晶片巨頭輝達發佈了H100晶片的繼任者，也是目前世界最強的AI晶片——H200。相比於其前任產品H100，H200的性能直接提升了60%到90%。
不僅如此，H200與H100一樣都是基於輝達Hopper架構打造，這也意味著兩款晶片可以互相相容，對於使用H100企業而言，可以無縫更換成新的H200。同時H200還是輝達首款使用HBM3e記憶體的晶片，速度更快容量更大，更適合用於大語言模型的訓練或者推理。

除了HBM3e記憶體外，H200的記憶體容量為141GB，頻寬從H100的3.35TB/s增加到了4.8TB/s。H200的性能提升最主要體現在大模型推理表現上，H200 在700億參數的Llama2大模型上的推理速度比H100快了一倍，而且在推理能耗上H200相比H100直接降低了一半。

對於顯存密集型HPC應用，H200更高的顯存頻寬能夠確保高效地訪問運算元據，與CPU相比，獲得結果的時間最多可提升110倍。輝達表示H200預計將於2024年第二季度出貨，售價還暫未公佈，不過在算力荒下，大科技公司們估計還是會瘋狂囤貨

更多圖片 小圖 大圖
組圖打開中，請稍候......
回復

使用道具 舉報

返回列表 發新帖
高級模式
B Color Image Link Quote Code Smilies
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

特別活動
專題活動
Computex報導
GAMFORCE
XFastest 專頁

SiteLock

相關資訊

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-29 03:12 , Processed in 0.320730 second(s), 64 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表