找回密碼註冊

NVIDIA TensorRT-LLM極大地提升了大型語言模型，Hopper GPU上的增益高達8倍

查看數: 4394 | 評論數: 0 | 收藏 0
提示：支持鍵盤翻頁<-左 右->
帖子模式
    組圖打開中，請稍候......
sxs112.tw
發佈時間: 2023-9-9 15:46

正文摘要:

NVIDIA今天宣布推出全新的AI軟體，稱為TensorRT LLM，可提高GPU上的大型語言模型性能。 NVIDIA表示他們正在與所有領先的推理工作負載（例如Meta、Grammarly、Deci、anyscale 等）合作，使用TensorRT-LLM加速他們 ...

回復

特別活動
專題活動
Computex報導
GAMFORCE
XFastest 專頁

SiteLock

相關資訊

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-9-20 09:04 , Processed in 0.081866 second(s), 32 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表