DeepSeek對於AI大模型來說,使用GPU運行無疑是最高效的,譬如AMD,無論是Instinct加速卡還是Radeon遊戲卡,都已經對應到位。你只需要任一塊AMD RX 7000系列顯示卡,就可以在本地體驗DeepSeek。
AMD Radeon遊戲卡本地使用DeepSeek非常簡單,只需打開AMD官網(中英文均可),搜尋15.1.1 ,進入第一個結果,下載AMD Adrenalin 25.1.1測試版驅動,安裝並重啟。
接著開啟LM Studio官網網站的Ryzen專欄( https://lmstudio.ai/ryzenai ),並下載LM Studio for Ryzen AI安裝包,安裝並運作。啟動之後點選右下角設定(可選中文語言),找到並開啟Use LM Studio's Hugging Face這個選項。回到主界面,在左側選單列點擊搜尋圖示,輸入DeepSeek R1,就可以看到已經訓練好的各種DeepSeek模型。
至於如何選擇,可以參考如下的AMD官方推薦列表,例如旗艦級的RX 7900 XTX可以支援到32B參數,主流的RX 7600則僅支援8B模型。順帶一提最新的中國特供版顯示卡RX 7650 GRE也同樣支援本地使用DeepSeek,只待正式發布。
然後下載合適的模型,在主介面上方選擇已下載的模型,然後調高GPU Offload的數值,不同選項的具體含義可自行搜尋或直接詢問DeepSeek。
驅動直接下載地址:
https://www.amd.com/zh-tw/resour ... RAD-WIN-25-1-1.html
消息來源 |