找回密碼註冊
返回列表 發新帖
作者: sxs112.tw
查看: 5219
回復: 0

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度！ 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

O11 VISION COMPACT 玩家開箱體驗分享活動

迷你身形 三面透視打造精緻PC視野新境界O11 VISION COMPACT 強強聯合 ...

2024 三星SD記憶卡 玩家開箱體驗分享活動

2024 PRO Plus SD 記憶卡 [*]為專業人士打造 [*]釋放極限速度 [*]多 ...

體驗極速WiFi 7！MSI Roamii BE Lite Mesh

MSI首款WiFi 7 Mesh系統登場－Roamii BE Lite Mesh System。Roamii ...

打印 上一主題 下一主題

[顯示卡器] 根據MLPerf測試，Intel的Gaudi2晶片是用於LLM訓練的NVIDIA GPU的唯一替代品

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2023-6-28 09:58:09 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
Intel和Habana今天發布了MLPerf訓練測試，其中包含一些非常有趣的結果。Intel的Gaudi2現在是用於訓練LLM的NVIDIA GPU的唯一替代品。NVIDIA的股價在最近的AI（又名LLM）淘金熱中飆升，因為該公司的GPU被用來訓練幾乎所有流行的LLM（如ChatGPT）。然而Intel Gaudi2現在是NVIDIA GPU的唯一可行替代品，並且他們已經發布了測試來證明這一點。
Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-005-1456x1125.jpg

ChatGPT可能是世界上一段時間以來最具顛覆性的力量，很明顯LLM是未來的方向。ChatGPT（免費）採用GPT 3.5模型，而GPT 3.5模型又採用GPT-3基本模型。ChatGPT 4採用GPT-4，但相關訊息極其稀疏，並且不存在相關測試。因此在確定使用什麼作為訓練CPU/GPU時，將GPT-3訓練到足夠的準確度（或減少損失函數）將是最相關的測試。NVIDIA使用其Hopper GPU在這一領域佔據主導地位，但最終還有一個替代方案：Intel Gaudi2。
Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-006-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-008-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-009-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-002-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-007-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-003-1456x1125.jpg


Intel-Briefing-Slides-MLPerf-06_22_23_FINAL-page-004-1456x1125.jpg

Intel聲稱目前在FP16工作負載中比A100有更好的CP值，併計劃在9月份（在FP8工作負載中）擊敗NVIDIA的H100。這是一個相當雄心勃勃的目標，但該公司有測試來支援這一目標。

消息來源
回復

使用道具 舉報

返回列表 發新帖
高級模式
B Color Image Link Quote Code Smilies
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

特別活動
專題活動
Computex報導
GAMFORCE
XFastest 專頁

SiteLock

相關資訊

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-10 17:36 , Processed in 0.070078 second(s), 34 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表