借助NVIDIA的下一代Rubin Ultra架構，AI伺服器的機架密度可能達到1000+KW

sxs112.tw · 發表於 2024-11-21 21:12:28

現在預測採用NVIDIA Rubin Ultra晶片等新一代架構，單一伺服器機架的潛在機架密度可能會超過1,000 KW，凸顯了人工智慧領域能源消耗的上升。

儘管世界迫切需要更多的人工智慧運算能力，但我們必須知道權力的貪婪會帶來一些未被承認的負面影響，特別是能源消耗的快速增加。根據報導現代人工智慧集群的機架密度約為130 KW-250 KW，但根據數據中心公司Vertiv（來自BusinessWire）的分析，這一數字預計將飆升至1,000 KW以上。全球領導人將如何滿足龐大能源需求的擔憂。

對於不知道的人來說，機架密度是一個術語，用於定義運行網路或伺服器機架中所有設備所需的熱量和功率。有趣的是早在2020年平均機架密度僅約8.2 KW。隨著人工智慧需求的快速成長，這個數字在短短四年內大幅飆升。這不僅顯示了一個市場如果受到主流關注，創新的速度有多快，而且伺服器密度的大幅上升也表明，在擁有更多運算能力方面，我們正走在正確的軌道上。

談到1,000 KW這個數字，Vertiv分析稱這一伺服器機架密度標準將隨著NVIDIA Rubin Ultra AI伺服器的首次亮相而獲得。這表明下一代產品線將有強大的性能衝擊力，並可能將自己歸類為市場的革命性產品。

雖然高伺服器機架密度數字確實值得讚賞，但值得注意的是這最終將轉化為產生更多能源的需求。NVIDIA的全球資料中心消耗的電力相當於單一國家的電力消耗，鑑於這個數字是幾個月前出現的，目前的實際數字將要大得多，尤其是隨著下一代AI產品的推出。

該行業已採取各種解決方案來滿足不斷增長的能源需求，其中一種方法是將核電基礎設施用於資料中心。有傳言稱微軟和OpenAI正在開發類似的產品，雖然我們還不太確定，但考慮到功耗數據仍按照當前趨勢繼續飆升，我們肯定會看到市場選擇此類替代方案。

消息來源

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

華碩極速WiFi 7 寫文競走開始！-- 得獎公

Ducky One X 玩家開箱體驗分享活動

UNI FAN TL Wireless LCD 120 ARGB 玩家開

FSP MP7 ARGB 玩家開箱體驗分享活動

[業界新聞] 借助NVIDIA的下一代Rubin Ultra架構，AI伺服器的機架密度可能達到1000+KW