文章標籤：

AMD Ryzen Radeon 7000 LLM Meta Llama

文章分享：

收藏0 分享

威剛科技引領業界榮獲台灣精品獎銀質獎肯定唯一獲獎固態硬碟

快睿國際再度登場為消費者帶來全新體驗與性能

SAMSUNG SSD 990 EVO Plus 4TB 開箱測試 / 極速 NAND 挑戰無 DRAM 快取極限

NUC 易主重生 ASUS NUC 14 Pro 迷你電腦 Core i3 100U 開箱

+ MORE活動推薦：

: GEX PRO 850W玩家開箱體驗分享活動
卓越性能，超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證，實現高達 ...

: 體驗極速WiFi 7！MSI Roamii BE Lite Mesh
第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

: 極致效能為遊戲而生 990 PRO SSD 玩家體驗
[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

: Micron Crucial PRO D5 6400超頻版玩家開
解銷更快的遊戲速度！利用低延遲遊戲記憶體的強大功能利用 Cruci ...

[業界新聞] 利用 AMD Ryzen AI 和 Radeon RX 7000 硬體體驗本地端 LLM 的 Meta Llama 3

[複製鏈接]| 回復

電梯直達

1^#

lin.sinchen 發表於 2024-5-3 16:55:50 | 只看該作者 |只看大圖回帖獎勵

|倒序瀏覽 |閱讀模式

通過 LM Studio 可利用 AMD Ryzen AI 和 Radeon RX 7000 等硬體設備體驗本地端的 Meta Llama 3 大型語言功能。

AMD AI 策略著重於透過廣泛的訓練和推論運算引擎組合、開放且成熟的軟體功能來支援產業體系，並透過共同創新培育 AI 產業體系。

透過搭載 AMD Ryzen AI 的 AI PC 或 AMD Radeon RX 7000 系列顯示卡，玩家無需任何程式開發的技能，即可完全在本地體驗 Meta 近期發佈的 Llama 3 模型，其為 Meta 迄今為止功能最強的開源模型，在 HumanEval、GPQA、GSM-8K、MATH 和 MMLU 基準測試中取得出色的成績。Llama 3 具備 80 億和 700 億參數模型，前者適用於客戶使用案例，後者適用於更多的資料中心和雲端使用案例。

AMD Ryzen 7040 系列行動處理器（Ryzen 5 7540U 和 Ryzen 3 7440U 處理器除外）和 AMD Ryzen 8040 系列行動處理器（Ryzen 5 8540U 和 Ryzen 3 8440U 處理器除外）配備了專為處理新興 AI 工作負載而設計的神經網路處理器（NPU）。高達 16 NPU TOPS（每秒兆次運算）的處理效能讓使用者以卓越的能源效率執行 AI 工作負載。AMD Ryzen AI APU 更包括 CPU 和 iGPU，用於處理隨需（on-demand）任務。

玩家可參考AMD 部落格文章的步驟，一步一步安裝 LM Studio 與 Meta Llama 3 大型語言功能。

source: community.amd.com

更多圖片 小圖大圖