找回密碼註冊
作者: sxs112.tw
查看: 3363
回復: 0

文章分享:

+ MORE精選文章:

+ MORE活動推薦:

SAMSUNG T7 Shield 移動固態硬碟

[*]超快的移動固態硬碟,比傳統外接 HDD 快 9.5 倍 [*]堅固的儲存 ...

GEX PRO 850W玩家開箱體驗分享活動

卓越性能,超值選擇 GEX PRO 系列通過 80 PLUS 金牌認證,實現高達 ...

體驗極速WiFi 7!MSI Roamii BE Lite Mesh

第一名 guanrung1110 https://www.xfastest.com/thread-293988-1- ...

極致效能 為遊戲而生 990 PRO SSD 玩家體驗

[*]極致效能固態硬碟 [*]PCIe 4.0 速度大幅提升 [*]優化的電源效率 ...

打印 上一主題 下一主題

[業界新聞] 借助NVIDIA的下一代Rubin Ultra架構,AI伺服器的機架密度可能達到1000+KW

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2024-11-21 21:12:28 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
現在預測採用NVIDIA Rubin Ultra晶片等新一代架構,單一伺服器機架的潛在機架密度可能會超過1,000 KW,凸顯了人工智慧領域能源消耗的上升。

儘管世界迫切需要更多的人工智慧運算能力,但我們必須知道權力的貪婪會帶來一些未被承認的負面影響,特別是能源消耗的快速增加。根據報導現代人工智慧集群的機架密度約為130 KW-250 KW,但根據數據中心公司Vertiv(來自BusinessWire)的分析,這一數字預計將飆升至1,000 KW以上。全球領導人將如何滿足龐大能源需求的擔憂。
NVIDIA-AMD-AI-Server-Racks-Compute-Power-Density.jpg

對於不知道的人來說,機架密度是一個術語,用於定義運行網路或伺服器機架中所有設備所需的熱量和功率。有趣的是早在2020年平均機架密度僅約8.2 KW。隨著人工智慧需求的快速成長,這個數字在短短四年內大幅飆升。這不僅顯示了一個市場如果受到主流關注,創新的速度有多快,而且伺服器密度的大幅上升也表明,在擁有更多運算能力方面,我們正走在正確的軌道上。

談到1,000 KW這個數字,Vertiv分析稱這一伺服器機架密度標準將隨著NVIDIA Rubin Ultra AI伺服器的首次亮相而獲得。這表明下一代產品線將有強大的性能衝擊力,並可能將自己歸類為市場的革命性產品。

雖然高伺服器機架密度數字確實值得讚賞,但值得注意的是這最終將轉化為產生更多能源的需求。NVIDIA的全球資料中心消耗的電力相當於單一國家的電力消耗,鑑於這個數字是幾個月前出現的,目前的實際數字將要大得多,尤其是隨著下一代AI產品的推出。

該行業已採取各種解決方案來滿足不斷增長的能源需求,其中一種方法是將核電基礎設施用於資料中心。有傳言稱微軟和OpenAI正在開發類似的產品,雖然我們還不太確定,但考慮到功耗數據仍按照當前趨勢繼續飆升,我們肯定會看到市場選擇此類替代方案。

消息來源

您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-12-18 10:09 , Processed in 0.188194 second(s), 33 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表