Intel談論人工智慧策略：下一代Gaudi 3和Falcon Shore加速器、第3方遷移、中國型號
Intel分享了有關其人工智慧策略和加速器的更多更新，包括下一代Gaudi 3和Falcon Shores，揭示了該公司如何透過其產品和軟體將人工智慧導入企業以及資料中心領域的各個方面。對於人工智慧，Intel開發了完整的企業人工智慧，這是硬體和人工智慧應用程式/軟體的組合，使用開放標準開發，可透過OpenVINO和Intel開發者雲端oneAPI 和Synapse實現。硬體分為三個分支：資料中心（可擴展系統、加速器、CPU）、網路（開放標準和可配置性、基礎設施）以及客戶端和邊緣（AI PC、NPU、GPU、CPU）。
NVIDIA長期以來一直是市場上高效能、強大的AI 加速器的唯一提供商，但隨著Intel和AMD以及其他公司準備新的解決方案，這種情況發生了變化，而且它們看起來非常高效（目前在規格上）。Intel希望將自己打造成市場領導者的明顯替代者，同時他們將在特定市場和工作負載中建立領導地位。我們最近看到Stability AI 的測試顯示Intel的Gaudi 2硬體以類似的價格提供了3倍的效能提升。
Intel表示在定價方面，Gaudi 2採用與A100相同的製程（台積電的7nn），但主要區別在於，他們的客戶在穩定性擴散和生成AI工作負載方面看到了高達3倍的性能提升，這意味著您使用Gaudi 2比使用NVIDIA A100可以節省更多成本。Gaudi 2硬體在某些工作負載中也優於最新的H100 GPU，這正是Intel目前所追求的目標，並將在此基礎上擴大領先地位。
Intel表示Gaudi 3加速器現已進入其驗證實驗室，並將於2024年第三季全面上市。
Gaudi 3也將透過廣泛的OEM生態系統以及Intel開發者雲提供。硬體方面Gaudi 3 AI加速器將採用與Gaudi 2相同的高效能架構，運算能力顯著提升。您將獲得4 倍的運算能力、2倍的網路頻寬、1.5倍的HBM記憶體頻寬以及更高的容量以支援更大的模型。
Falcon Shores將是第一個專為AI工作負載設計的GPU架構。它將Gaudi AI IP的最佳功能以Intel GPU技術結合到融合產品中。Falcon Shores的開發工作正在順利進行，計劃於2025年推出。
人工智慧開發人員主要擔心的一個問題是，遷移到新硬體會帶來一些問題，例如修改程式碼以支援新加速器。根據Intel的說法，大多數開發人員都在堆疊的高層級上工作（Hugging Face、Mosiac ML、PyTorch等），並且借助Intel的軟體解決方案，他們只需在Python腳本中添加幾行程式碼，他們可以遷移現有模型或新模型。
Intel的模型遷移只需3-5行程式碼即可將現有或新模型遷移到新硬體。對於高級軟體，Intel提供從NVIDIA到整個Gaudi甚至下一代Falcon Shores加速器系列的遷移支援。該公司還致力於在從NVIDIA硬體遷移時添加OpenAPI、Triton和TPC-C等低階模型，以便在Falcon Shores GPU上獲得支援。
談到其中國計劃，Intel表示他們完全遵守美國當局的規定，並且正在採用採用Gaudi硬體的新版本，以確保它們可以出口到中國。
當被問及Intel是否會進軍訓練和推理領域時，該公司表示他們的目標是這兩方面。生成式人工智慧和LLM是推動需求的因素。NVIDIA在去年的投資者電話會議上也表示來自GenAI的人工智慧需求將是巨大的，這適用於包括Intel在內的所有硬體供應商。Intel預計推理需求將隨著時間的推移而增加，但他們專注於提供在訓練和推理任務方面都表現出色的完整軟體。
消息來源
頁:
[1]