技嘉AI伺服器導入先進冷卻技術 搶占人工智慧版圖

散熱更快、密度最高！採用Intel® Xeon® 架構的NVIDIA HGX™ H100系統

2023/08/10 - 高性能伺服器與工作站領導品牌技嘉科技，集團旗下子公司技鋼科技今天宣布推出新款AI伺服器 — G363-SR0與G593-SD2；支援第四代Intel® Xeon® 可擴充處理器與NVIDIA HGX™ H100的4-GPU和8-GPU。考量到最佳性能與散熱效率，G363-SR0能輕鬆排解多GPU運算下產生的高功耗熱能；G593-SD2 則為標準氣冷機種，兩款伺服器都展現了各自尺寸中最高的GPU算力。未來，我們亦將針對NVIDIA近期發表的 L40S 運算卡進行相容性測試，該GPU適用於多用途工作負載，例如3D繪圖、影像渲染、虛擬化工作站、影像串流加速，以及炙手可熱的人工智慧訓練等。同時亦積極進行以工作站工作負載導向設計的NVIDIA Ada Generation運算卡做相容性測試。

G363-SR0：直接液體冷卻

為了更高的效能，需要採用更創新的解決方案。G363採用直接液體冷卻（DLC）設計，藉由搭載在處理器與GPU上方的直接液體冷卻模組，能迅速將熱能從2個Intel Xeon處理器和4顆NVIDIA GPU模組中帶走。3U高度的G363-SR0提供了超乎理想的運算效能，伺服器共有8個2.5吋插槽，支援Gen5 NVMe/SATA/SAS藉以提供快速的IO傳輸。網路連接部分提供6個PCIe 5.0 low-profile擴充槽。系統供電則配備了2 + 1的冗餘電源配置，使用3000W的鈦金電源。

資料中心的電力消耗問題正逐步造成全球環境議題，為了減緩此困境，開發突破傳統氣冷技術中配置大量風扇與空間散熱的替代方案成為趨勢。直接液體冷卻技術是讓運轉中的CPU或GPU等零組件，透過導熱銅片（或稱「冷板」）將熱能傳導到冷卻液，冷卻液沿著封閉式的迴流管線帶出伺服器，通過冷卻液分配裝置將熱能排出資料中心。與傳統氣冷系統相比，DLC技術不僅能維持高效運算，不必額外增設冷卻基礎設施，還能節省更多的能源，從而降低總成本、營運費用並提高投資報酬率。

G593-SD2：高密度8 GPU系統

近期人工智慧訓練和密集運算工作負載需求不斷上升，技嘉G593系列以能處理頂尖的GPU加速運算，並可在5U機身中搭載8顆NVIDIA H100 SXM5 GPU的領先技術而聞名。G593整體結構被分為上下兩部分，上方1U 支援Intel Xeon雙處理器，技嘉以最高密度的配置，在下方4U空間放入相較業界減少1~3U空間的8顆NVIDIA H100 SXM5 GPU模組，集中散熱區域的溫控與耗電量，呈現最佳的散熱效益與低能耗。

技鋼的研發團隊擁有高度彈性與機動性，依據市場需求對產品做滾動式微調，G593-SD2便是在這個情況下誕生的！有別於 G593-SD0在機箱後方上排保留數個low-profile擴充槽的空間。在新的SD2機箱中以用於NVIDIA BlueField® DPUs的FHHL擴充槽取代。這個小小的改變讓G593-SD2能運用多個BlueField資料處理器來加速資料傳輸以及高效能與高效率的工作負載，並確保伺服器中至關重要的資訊安全議題。G593-SD0與G593-SD2皆可為生成式人工智慧或高效能運算應用帶來令人驚豔的超算力。

加速器支援

本週NVIDIA為其龐大的GPU產品線再增添了4款新的加速器生力軍，特別著重在運算與虛擬化領域，技鋼時時做好準備，持續不斷為新款加速器進行相容性認證，確保搭載於技嘉伺服器的效能表現，讓客戶得以快速部屬啟用。

基於NVIDIA Ada Lovelace架構的NVIDIA L40S GPU，號稱是資料中心前所未見最強大的通用GPU，可實現突破性的多工作負載效能，從生成式人工智慧和大型語言模型推論與訓練、3D繪圖、渲染和動態影像加速。

新公布工作站工作負載導向的NVIDIA RTX Ada Generation運算卡，針對不同專業領域的用戶，提供高效能、即時光線追蹤、人工智慧運算和先進的繪圖渲染。基於Ada架構的RTX 5000、RTX 4500和RTX 4000 GPU採用PCIe Gen4 x16規格，支援如NVIDIA® GPUDirect®和NVIDIA GPUDirect RDMA等技術，可加速影像運算，並實現系統間更快更高效的數據傳輸。

技嘉科技今日宣布了強大的GPU解決方案，接下來亦將有更多支援先進液冷技術的GPU模組伺服器。降低資料中心能源成本，環保與科技就在眼前。

欲瞭解更多技嘉伺服器產品：https://www.gigacomputing.com
關於技嘉伺服器產品的購買訊息，歡迎參閱：https://www.gigabyte.com/WheretoBuy/Enterprise諮詢銷售夥伴。
如果想諮詢更多關於產品的訊息，請聯繫我們。
媒體聯繫：ann.lin@gigacomputing.com
在Twitter上追蹤我們：https://twitter.com/GIGABYTEServer
在LinkedIn上追蹤我們：https://www.linkedin.com/company/giga-computing/