AMD Ryzen AI CPU在AI LLM和GenAI測試中擊敗Intel Core Ultra，借助XDNA實現低功耗且更便宜
AMD的Ryzen AI CPU在新的AI測試中超越了Intel的Core Ultra 晶片，該測試展示了LLM和GenAI工作負載。AMD率先進入AI PC領域，去年推出了代號為Phoenix的第一代Ryzen AI CPU。此後該公司推出了名為Hawk Point的更新版Ryzen AI系列，該系列提供增強型XDNA NPU，將AI TOPS提升了 60%。AMD似乎在客戶端和本地化AI工作負載的軟體優化方面投入了大量工作，該公司發布的新測試表明了這一點。
在新的測試中，AMD強調在本地CPU上運行LLM，這可以透過LLama 2、Mistral AI_、code llama和RAG等一系列模型來實現。在您的PC上運行本地化的人工智慧模型意味著您比線上雲端平台上的模型擁有更多的隱私，無需在線連接即可節省訂閱費用。該公司正在進一步進入這一領域，並發布了最新指南，介紹如何設定自己的本地AI聊天機器人，可與NVIDIA Chat with RTX聊天機器人相媲美。
在效能測試中AMD使用15W的Ryzen 7 7840U APU，並將其與28W的Intel Core Ultra 7 155H進行比較。這兩款晶片均運行16GB LPDDR5-6400記憶體和最新的驅動程式。
首先我們有Mistral Instruct 7B LLM，其中與Intel產品相比，AMD Ryzen 7 7840U CPU僅用61%的時間完成AI處理，而Llama 2 7B聊天速度甚至更快，Ryzen AI晶片在54秒內完成任務。
為簡化起見，AMD Ryzen 7 7840U (15W) CPU 在LLama v2 Chat 7B (Q4 KM) 中的效能提升高達14%，在 Mistral Instruct 7b (Q4 KM) 中的效能提升高達 17%。LLama v2 Chat中首次令牌速度的時間分別快了79%，Mistral Instruct 7B LLM中的First token速度快了41%。
這裡需要注意兩點，AMD Ryzen AI CPU不僅比更高瓦數的Intel Core Ultra CPU更快，而且它的NPU速度稍慢，為10 TOP，而Intel Core Ultra晶片為11 TOP。這甚至還沒有比較 28W系列或有高達16個TOP人工智慧運算能力的Hawk Point晶片。AMD也強調了其AI PC平台的成本優勢，該平台的價格較低，起價約為899 美元（SEP），而Intel Core Ultra 155H晶片的起價為999美元（SEP）。
AMD Ryzen AI PC平台的優勢在於已經上市一段時間了，這促使AMD對其現有和下一代CPU進行快速的AI優化。這些人工智慧工作負載預計將在未來進一步調整，為預計今年稍後推出的Zen 5驅動的Strix Point系列做好準備。Intel的Core Ultra平台也已經推出幾個月了，該公司針對這一領域制定了大膽的人工智慧策略。
消息來源
頁:
[1]