AI專業人士考慮將從NVIDIA轉向AMD，並引述了Instinct MI300X的效能和成本

sxs112.tw · 發表於 2024-3-10 22:30:46

最近進行的一項調查顯示大量人工智慧專業人士正在尋求從NVIDIA轉向AMD Instinct MI300X GPU。

TensorWave聯合創始人 Jeff Tatarchuk透露在一項針對82名工程師和AI專業人士的獨立研究中，大約50%的人表示有信心使用AMD Instinct MI300X GPU，因為它提供了更好的CP值。與NVIDIA H100等同類產品相比，性能比高，並且具有廣泛的可用性。除此之外Jeff還表示TensorWave將採用MI300X AI加速器，這對 AMD來說是另一個有希望的消息，因為與NVIDIA等其他公司相比，他們的Instinct系列總體上尚未達到採用水平。

為了快速了解MI300X Instinct AI GPU，它是完全採用CDNA 3架構設計的，並且正在進行大量工作。它混合採用5nm和6nm IP，可提供多達1,530億個電晶體 (MI300X)。記憶體是另一個重大升級的領域，MI300X的HBM3容量比其前身MI250X（128GB）增加了50%。以下是它與NVIDIA H100的比較：

記憶體容量提高2.4倍
記憶體頻寬提高1.6倍
1.3倍FP8 TFLOPS
1.3倍FP16 TFLOPS
在1v1比較中，速度比H100 (Llama 2 70B) 快達20%
在1v1比較中，速度比H100 (FlashAttention 2) 快達20%
8v8 伺服器中的速度比H100 (Llama 2 70B) 快達40%
在 8v8 伺服器中，速度比H100 (Bloom 176B) 快達60%

AMD的旗艦Instinct AI加速器如何讓市場競爭對手頭痛。這是因為不僅MI300X的性能提升巨大，而且AMD的發佈時機也很完美，因為NVIDIA目前陷入訂單積壓的重壓，這阻礙了其獲得新客戶的增長。雖然AMD沒有取得他們想要的開局，但似乎接下來的一段時間對該公司來說可能會取得豐碩成果，有可能與市場競爭對手正面交鋒。

消息來源

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

極速WiFi 7 寫文競走開始！

EDEG 850W 玩家開箱體驗分享活動

SAMA幻境界玩家開箱體驗分享活動

極致效能優化三星990 EVO 玩家體驗分享活

[業界新聞] AI專業人士考慮將從NVIDIA轉向AMD，並引述了Instinct MI300X的效能和成本