找回密碼註冊

(PR)NVIDIA利用解碼演算法Medusa將Llama 3.1效能提升1.9倍

查看數: 3205 | 評論數: 0 | 收藏 0
提示：支持鍵盤翻頁<-左 右->
帖子模式
    組圖打開中，請稍候......
sxs112.tw
發佈時間: 2024-9-8 18:55

正文摘要:

NVIDIA的HGX H200 AI加速器憑藉NVIDIA獨家解碼演算法Medusa ，在Llama 3.1推理方面獲得大幅提升。 [新聞稿]：隨著大型語言模型 (LLM) 的規模和複雜性不斷增長，多GPU運算是提供即時產生AI應用程式所需的低延遲和高 ...

回復

特別活動
專題活動
Computex報導
GAMFORCE
XFastest 專頁

SiteLock

相關資訊

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2025-2-16 20:28 , Processed in 0.091606 second(s), 32 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表