Intel Gaudi2加速器MLPerf測試顯示了NVIDIA GPU的可行AI替代方案

Intel發布了其Gaudi2加速器的最新MLPerf測試。獲得的數據證明Gaudi AI加速器正在成為NVIDIA H100 GPU的可行替代品，讓Intel在AI炒作中分得一杯羹。

在深入研究測試之前，重要的是要認識到人工智慧行業預計在未來幾年將呈指數級增長。美國洞察公司Gartner透露2023年人工智慧行業估值將達到534億美元，較上年增長20.9%。此外該公司預測到2027年，該行業的規模可能幾乎達到1200億美元大關，這也是Intel和AMD等公司努力憑藉自己的人工智慧解決方案佔據主導地位的主要原因。

根據Intel公佈的數據Gaudi2加速器的性能有了不錯的提升，遠遠超過了NVIDIA的A100 AI GPU。Intel 表示與市場上的同類產品相比，他們的Gaudi2加速器提供了更好的價值，考慮到NVIDIA AI GPU的售價過高，他們的說法確實是對的。

• 與NVIDIA的H100相比，Gaudi2提供了令人信服的性能，其中H100相對於Gaudi2表現出1.09倍（伺服器）和1.28倍（離線）性能的輕微優勢。
• Gaudi2的性能比NVIDIA的A100高出2.4倍（伺服器）和2倍（離線）。
• Gaudi2提交的文件採用了FP8，並在這種新數據類型上達到了99.9%的準確率。
  

雖然上述統計數據確實令人印象深刻，但Intel遺漏了一些細節，例如相關的TDP和溫度統計數據。從長遠來看，它們並不重要，尤其是在當前的行業狀況下，因為H100正面臨巨大的缺貨，大量訂單的湧入導致需求和供應鏈中斷。有鑑於此Intel的Gaudi2加速器被證明是一個強大的替代方案，但是這裡仍然需要做一些工作。

除了Gaudi加速器之外，Intel還公佈了第四代Intel Xeon Scalable和XOEN CPU Max的一些測試，這些產品最近因其帶來的性能價值而在業界蓬勃發展。以下是主要結果亮點：

• 第四代Intel Xeon Scalable處理器非常適合使用最流行的人工智慧框架和資料庫打造和部署通用人工智慧工作負載。對於大約1,000到1,500字的新聞文章的 GPT-J 100字摘要任務，The 4th Gen Intel Xeon Scalable處理器在離線模式下每秒摘要兩段，在即時伺服器模式下每秒可摘要一段。
• Intel首次提交了Intel Xeon CPU Max系列的MLPerf結果，該系列提供高達64GB的高頻寬記憶體。對於GPT-J，它是唯一能夠達到99.9%準確度的CPU，這對於最高精度對性能至關重要的應用至關重要。
• Intel與其原始設備製造商(OEM) 客戶合作提交了他們自己的提交材料，進一步展示了人工智慧性能可擴展性和由Intel Xeon處理器支援的通用伺服器的廣泛可用性，這些伺服器可以滿足客戶服務水平協議(SLA)。
  

David Zinsner在花旗全球技術大會的一次會議上透露，Intel看到了在AI行業中確立自己地位的絕佳機會，並表示其Gaudi加速器作為NVIDIA AI GPU的替代品引起了用戶的極大興趣。因為NVIDIA目前在生產和交付階段處於困境。

獲得GPU的挑戰 — 我認為我們看到越來越多的客戶將Gaudi作為替代方案。此外價格也更好、更有吸引力。

Zinsner表示公司注重在人工智慧行業採取更加平衡的方式，提供有競爭力的產品。官方已經意識到Sapphire Rapids產品線受到了更多關注，而AI加速器部門卻被冷落了。Zinsner聲稱Intel一段時間以來一直專注於GPU領域，該公司的大部分財務都分配給了GPU的開發，這導致了數據中心收入的下滑。

需要GPU來完成[AI] 工作。我認為我們是受益者，因為我們擁有CPU。

這對我們數據中心業務的銷售造成了一些影響，這也是我們認為第三季和第四季將比過去更加平靜的部分原因。

Intel目前正在專注於人工智慧行業，因為它已經看到了與NVIDIA和SK Hynix等公司合作所取得的奇蹟。Intel未來與Gaudi AI加速器的合作預示著積極的好轉，我們看到的指標之一是該公司計劃將下一代Falcon Shores與Gaudi產品線整合，將其潛力擴展到整個產品線新的水平 。然而這方面的工作還需要完成，Intel驅逐競爭的唯一方法是將其人工智慧產品提升到一個全新的水平。

雖然現在已經晚了，但如果該公司能夠果斷進入，事情可能會發生轉變。隨著精簡版Gaudi加速器預計在中國發布，加上該公司人工智慧加速器的快速發展，用戶應該可對Intel在未來抱有很大期望。

消息來源