找回密碼註冊
作者: sxs112.tw
查看: 4200
回復: 0

文章分享:

+ MORE精選文章:

+ MORE活動推薦:

GEX PRO 850W玩家開箱體驗分享活動

卓越性能,超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證,實現高達 ...

體驗極速WiFi 7!MSI Roamii BE Lite Mesh

第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

極致效能 為遊戲而生 990 PRO SSD 玩家體驗

[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度! 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

打印 上一主題 下一主題

[業界新聞] Intel談論人工智慧策略:下一代Gaudi 3和Falcon Shore加速器、第3方遷移、中國型號

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2024-3-14 16:59:50 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
Intel分享了有關其人工智慧策略和加速器的更多更新,包括下一代Gaudi 3和Falcon Shores,揭示了該公司如何透過其產品和軟體將人工智慧導入企業以及資料中心領域的各個方面。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_5.png

對於人工智慧,Intel開發了完整的企業人工智慧,這是硬體和人工智慧應用程式/軟體的組合,使用開放標準開發,可透過OpenVINO和Intel開發者雲端oneAPI 和Synapse實現。硬體分為三個分支:資料中心(可擴展系統、加速器、CPU)、網路(開放標準和可配置性、基礎設施)以及客戶端和邊緣(AI PC、NPU、GPU、CPU)。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_2.png

NVIDIA長期以來一直是市場上高效能、強大的AI 加速器的唯一提供商,但隨著Intel和AMD以及其他公司準備新的解決方案,這種情況發生了變化,而且它們看起來非常高效(目前在規格上)。Intel希望將自己打造成市場領導者的明顯替代者,同時他們將在特定市場和工作負載中建立領導地位。我們最近看到Stability AI 的測試顯示Intel的Gaudi 2硬體以類似的價格提供了3倍的效能提升。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_3.png

Intel表示在定價方面,Gaudi 2採用與A100相同的製程(台積電的7nn),但主要區別在於,他們的客戶在穩定性擴散和生成AI工作負載方面看到了高達3倍的性能提升,這意味著您使用Gaudi 2比使用NVIDIA A100可以節省更多成本。Gaudi 2硬體在某些工作負載中也優於最新的H100 GPU,這正是Intel目前所追求的目標,並將在此基礎上擴大領先地位。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_4.png

Intel表示Gaudi 3加速器現已進入其驗證實驗室,並將於2024年第三季全面上市。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_6.png

Gaudi 3也將透過廣泛的OEM生態系統以及Intel開發者雲提供。硬體方面Gaudi 3 AI加速器將採用與Gaudi 2相同的高效能架構,運算能力顯著提升。您將獲得4 倍的運算能力、2倍的網路頻寬、1.5倍的HBM記憶體頻寬以及更高的容量以支援更大的模型。

Falcon Shores將是第一個專為AI工作負載設計的GPU架構。它將Gaudi AI IP的最佳功能以Intel GPU技術結合到融合產品中。Falcon Shores的開發工作正在順利進行,計劃於2025年推出。

人工智慧開發人員主要擔心的一個問題是,遷移到新硬體會帶來一些問題,例如修改程式碼以支援新加速器。根據Intel的說法,大多數開發人員都在堆疊的高層級上工作(Hugging Face、Mosiac ML、PyTorch等),並且借助Intel的軟體解決方案,他們只需在Python腳本中添加幾行程式碼,他們可以遷移現有模型或新模型。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_15-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_16-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_17-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_18-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_19-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_20-1456x819.png

Intel的模型遷移只需3-5行程式碼即可將現有或新模型遷移到新硬體。對於高級軟體,Intel提供從NVIDIA到整個Gaudi甚至下一代Falcon Shores加速器系列的遷移支援。該公司還致力於在從NVIDIA硬體遷移時添加OpenAPI、Triton和TPC-C等低階模型,以便在Falcon Shores GPU上獲得支援。

談到其中國計劃,Intel表示他們完全遵守美國當局的規定,並且正在採用採用Gaudi硬體的新版本,以確保它們可以出口到中國。
Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_7-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_8-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_9-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_10-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_11-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_12-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_13-1456x819.png


Intel-AI-Accelerator-Strategy-Update-Gaudi-Falcon-Shores-_14-1456x819.png

當被問及Intel是否會進軍訓練和推理領域時,該公司表示他們的目標是這兩方面。生成式人工智慧和LLM是推動需求的因素。NVIDIA在去年的投資者電話會議上也表示來自GenAI的人工智慧需求將是巨大的,這適用於包括Intel在內的所有硬體供應商。Intel預計推理需求將隨著時間的推移而增加,但他們專注於提供在訓練和推理任務方面都表現出色的完整軟體。

消息來源
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-25 05:38 , Processed in 0.078083 second(s), 33 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表