AI專業人士考慮將從NVIDIA轉向AMD，並引述了Instinct MI300X的效能和成本
最近進行的一項調查顯示大量人工智慧專業人士正在尋求從NVIDIA轉向AMD Instinct MI300X GPU。TensorWave聯合創始人 Jeff Tatarchuk透露在一項針對82名工程師和AI專業人士的獨立研究中，大約50%的人表示有信心使用AMD Instinct MI300X GPU，因為它提供了更好的CP值。與NVIDIA H100等同類產品相比，性能比高，並且具有廣泛的可用性。除此之外Jeff還表示TensorWave將採用MI300X AI加速器，這對 AMD來說是另一個有希望的消息，因為與NVIDIA等其他公司相比，他們的Instinct系列總體上尚未達到採用水平。
為了快速了解MI300X Instinct AI GPU，它是完全採用CDNA 3架構設計的，並且正在進行大量工作。它混合採用5nm和6nm IP，可提供多達1,530億個電晶體 (MI300X)。記憶體是另一個重大升級的領域，MI300X的HBM3容量比其前身MI250X（128GB）增加了50%。以下是它與NVIDIA H100的比較：
[*]記憶體容量提高2.4倍
[*]記憶體頻寬提高1.6倍
[*]1.3倍FP8 TFLOPS
[*]1.3倍FP16 TFLOPS
[*]在1v1比較中，速度比H100 (Llama 2 70B) 快達20%
[*]在1v1比較中，速度比H100 (FlashAttention 2) 快達20%
[*]8v8 伺服器中的速度比H100 (Llama 2 70B) 快達40%
[*]在 8v8 伺服器中，速度比H100 (Bloom 176B) 快達60%
AMD的旗艦Instinct AI加速器如何讓市場競爭對手頭痛 。這是因為不僅MI300X的性能提升巨大，而且AMD的發佈時機也很完美，因為NVIDIA目前陷入訂單積壓的重壓，這阻礙了其獲得新客戶的增長。雖然AMD沒有取得他們想要的開局，但似乎接下來的一段時間對該公司來說可能會取得豐碩成果，有可能與市場競爭對手正面交鋒。
消息來源
頁:
[1]