找回密碼註冊
返回列表 發新帖
作者: sxs112.tw
查看: 4974
回復: 0

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

GEX PRO 850W玩家開箱體驗分享活動

卓越性能，超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證，實現高達 ...

體驗極速WiFi 7！MSI Roamii BE Lite Mesh

第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

極致效能 為遊戲而生 990 PRO SSD 玩家體驗

[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度！ 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

打印 上一主題 下一主題

[業界新聞] NVIDIA找到新搖錢樹：加速卡靠ChatGPT輕鬆穩賺7.5億美元

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2023-3-2 20:41:07 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
ChatGPT最近火得一塌糊塗，也將AI人工智慧推向了新的高潮，而生成式AI需要海量的數據進行推理訓練，高算力的GPU加速卡自然成了搶手貨。譬如ChatGPT背後的GPT模型，其訓練參數在2018年約為1.2億個，到了2020年就猛增到近1800億個，如今恐怕至少在萬億級別。

集邦諮詢估計生成式AI對於GPU計算卡的需求量在2萬塊左右，未來將達到3萬塊。這其中受益最多的自然是NVIDIA，其旗艦級計算卡A100已經在為ChatGPT默默服務，有估算需要3萬塊才能滿足ChatGPT當前的訪問量。
NVIDIA-ChatGPT-AI-GPUs.jpg

但它往往不是單賣的，而是以DGX A100伺服器整套方案的方式銷售，每套八塊計算卡，算力高達5PFlops(每秒5千萬億次浮點計算)，相當於前幾年的一套大型超級電腦，是大規模數據分析、AI加速計算的幾乎不二之選。DGX A100伺服器單套售價約20萬美元，3萬塊卡下來就是大約7.5億美元。

當然AMD也有MI100、MI200系列加速卡，今年還會推出CPU+GPU融合的全新MI300，算力也很強，但市佔率遠不如NVIDIA。另外有數據顯示GPT-3訓練一次的成本約為140萬美元，對於一些更大的LLM模型，訓練成本介於200萬美元至1200萬美元之間。

消息來源
回復

使用道具 舉報

返回列表 發新帖
高級模式
B Color Image Link Quote Code Smilies
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

特別活動
專題活動
Computex報導
GAMFORCE
XFastest 專頁

SiteLock

相關資訊

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-27 19:13 , Processed in 0.080199 second(s), 34 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表