Intel宣布其整個CPU和GPU產品組合支援微軟的Phi-3 AI模型。
在討論細節之前,我們先來看看Microsoft的Phi-3系列開放式模型。該公司的新GenAI模型專注於提供更小、更有效率的能力,這與行業規範不同。借助Phi-3,我們可以看到小語言模型 (SLM) 的出現,它非常適合處理能力有限的低功耗設備。
幸運的是,Intel已成為首批在其產品陣容中支援SLM的硬體製造商之一,現在Intel的Gaudi AI加速器、Xeon和Core Ultra CPU以及Intel的Arc GPU(獨立和整合)都經過優化以支援Phi -3個來自微軟的模型。
我們為客戶和開發人員提供強大的人工智慧解決方案,利用業界最新的人工智慧模型和軟體。我們與人工智慧軟體生態系統中的其他領導者(例如微軟)的積極合作是將人工智慧帶到無所不在的關鍵。我們很榮幸能夠與Microsoft密切合作,確保Intel硬體(涵蓋資料中心、邊緣和用戶端)積極支援多種新的Phi-3型號
- Pallavi Mahajan,Intel公司副總裁兼資料中心和人工智慧軟體部總經理
微軟已經發布了多個Phi-3 GenAI模型,並將它們按照各自的參數進行分類。其中包括迷你、小型和中型型號;有趣的是Intel在所有開放型號中展示了其產品的性能。從Intel第六代Xeon CPU (Granite Rapids) 開始,該公司對Phi-3中型4k和28k版本進行了測試,與第五代Xeon(Emerald Rapids) 同類產品相比,該平台的性能提高了2倍。
該公司表示轉向Intel的Core Ultra CPU平台,Phi-3模型將促進邊緣人工智慧流程,並將提供個人化和回應能力等多項優勢。隨後該公司使用Intel Core Ultra 7 165H測試了Phi-3 mini模型,並使用Arc A770作為獨立GPU,測試確實顯示出令人印象深刻的性能和token生成延遲。
微軟 Phi-3 AI模型的首次亮相確實將為個人化AI運算時代打開新的大門,並且憑藉現代處理器的性能,運行此類模型根本不是問題。
消息來源 |