文章標籤：

AMD Ryzen Radeon 7000 LLM Meta Llama

文章分享：

收藏0 分享

BIOSTAR映泰推出 MS-X7433RE 工業運算解決方案小巧設計完美結合空間利用與強大工業級效能

COUGAR 搖搖沙發 FIDOM 與 CROSSER GOLD 電競椅凳開箱

豪宅機殼的頂峰? LIANLI 聯力O11 Vision Compact 機殼，打造頂級視覺機殼的標竿

我超有形！NZXT H7 Flow 2024 開箱組裝 / 極簡美學俐落線條

+ MORE活動推薦：

: GEX PRO 850W玩家開箱體驗分享活動
卓越性能，超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證，實現高達 ...

: 體驗極速WiFi 7！MSI Roamii BE Lite Mesh
第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

: 極致效能為遊戲而生 990 PRO SSD 玩家體驗
[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

: Micron Crucial PRO D5 6400超頻版玩家開
解銷更快的遊戲速度！利用低延遲遊戲記憶體的強大功能利用 Cruci ...

[業界新聞] 利用 AMD Ryzen AI 和 Radeon RX 7000 硬體體驗本地端 LLM 的 Meta Llama 3

[複製鏈接]| 回復

電梯直達

1^#

lin.sinchen 發表於 2024-5-3 16:55:50 | 只看該作者 |只看大圖回帖獎勵

|倒序瀏覽 |閱讀模式

通過 LM Studio 可利用 AMD Ryzen AI 和 Radeon RX 7000 等硬體設備體驗本地端的 Meta Llama 3 大型語言功能。

AMD AI 策略著重於透過廣泛的訓練和推論運算引擎組合、開放且成熟的軟體功能來支援產業體系，並透過共同創新培育 AI 產業體系。

透過搭載 AMD Ryzen AI 的 AI PC 或 AMD Radeon RX 7000 系列顯示卡，玩家無需任何程式開發的技能，即可完全在本地體驗 Meta 近期發佈的 Llama 3 模型，其為 Meta 迄今為止功能最強的開源模型，在 HumanEval、GPQA、GSM-8K、MATH 和 MMLU 基準測試中取得出色的成績。Llama 3 具備 80 億和 700 億參數模型，前者適用於客戶使用案例，後者適用於更多的資料中心和雲端使用案例。

AMD Ryzen 7040 系列行動處理器（Ryzen 5 7540U 和 Ryzen 3 7440U 處理器除外）和 AMD Ryzen 8040 系列行動處理器（Ryzen 5 8540U 和 Ryzen 3 8440U 處理器除外）配備了專為處理新興 AI 工作負載而設計的神經網路處理器（NPU）。高達 16 NPU TOPS（每秒兆次運算）的處理效能讓使用者以卓越的能源效率執行 AI 工作負載。AMD Ryzen AI APU 更包括 CPU 和 iGPU，用於處理隨需（on-demand）任務。

玩家可參考AMD 部落格文章的步驟，一步一步安裝 LM Studio 與 Meta Llama 3 大型語言功能。

source: community.amd.com

更多圖片 小圖大圖