找回密碼註冊
作者: sxs112.tw
查看: 7241
回復: 1

文章分享:

+ MORE精選文章:

+ MORE活動推薦:

SAMSUNG T7 Shield 移動固態硬碟

[*]超快的移動固態硬碟,比傳統外接 HDD 快 9.5 倍 [*]堅固的儲存 ...

GEX PRO 850W玩家開箱體驗分享活動

卓越性能,超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證,實現高達 ...

體驗極速WiFi 7!MSI Roamii BE Lite Mesh

第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

極致效能 為遊戲而生 990 PRO SSD 玩家體驗

[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

打印 上一主題 下一主題

[顯示卡器] 華人大神出手AMD顯示卡AI煉丹能力,可達RTX 4090八成性能

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2023-8-13 20:15:42 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
除了玩遊戲,NVIDIA的顯示卡還在AI加速上遙遙領先,不僅科技龍頭都在搶A100/H100等顯示卡,GeForce遊戲卡也是普通人搞AI煉丹的選擇,AMD顯示卡在這方面落後不少。好消息是AMD現在也能追上來了,深度學習領域的華人大神、OctoML CTO陳天奇帶領團隊在AMD顯示卡上做出了大模型推理的方案,這意味著業界又有NVIDI之外的選擇,不用為N卡搶破頭、加價而困擾了。
2459223d-c5a5-4bd7-92c0-47a701e8.jpg

根據他的優化算法,在Llama2的7B和13B大模型中,用RX 7900 XTX顯示卡也能跑出讓人滿意的性能,性能已經達到了RTX 4090顯示卡82%或者RTX 3090 Ti顯示卡的94%水平。
c8f010e6-11ec-44a4-8958-af6ad1d705fd.png

不僅是性能追上來了,AMD顯示卡的CP值也要高得多,RX 7900 XTX跟其他兩款顯示卡都是24GB顯示記憶體,但只要999美元,RTX 4090、RTX 3090 Ti分別是1599、1999元,價格高出60-100%。當然RX 7900 XTX現在的價格早就鬆動了,實際售價比999美元便宜不少,而N卡價格一直堅挺。

究其根底A卡在AI煉丹能力上的提升,尤其是RX 7900 XTX這樣的遊戲卡能有質變,還是AMD最近在ROCm軟體生態上的改進,以前後者對遊戲卡及Win平台的支援很差,4月份開始不僅支援Windows系統,也加入了對RX 7900及工作站顯示卡的支援。

同時AMD還發布了ROCm HIP SDK,允許開發者將針對CUDA平台開發的代碼輕鬆遷移到AMD平台,這有是陳天奇等大神可以在AMD顯示卡上推動AI能力提升的基礎。

消息來源
2#
boyd5486 發表於 2023-8-14 09:13:40 | 只看該作者
能跟4080追平就不錯了
回復 支持 0 反對 1

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-12-24 21:13 , Processed in 0.159260 second(s), 32 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表