找回密碼註冊
作者: sxs112.tw
查看: 5353
回復: 0

文章分享:

+ MORE精選文章:

+ MORE活動推薦:

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度! 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

O11 VISION COMPACT 玩家開箱體驗分享活動

迷你身形 三面透視打造精緻PC視野新境界O11 VISION COMPACT 強強聯合 ...

2024 三星SD記憶卡 玩家開箱體驗分享活動

2024 PRO Plus SD 記憶卡 [*]為專業人士打造 [*]釋放極限速度 [*]多 ...

體驗極速WiFi 7!MSI Roamii BE Lite Mesh

MSI首款WiFi 7 Mesh系統登場-Roamii BE Lite Mesh System。Roamii ...

打印 上一主題 下一主題

[業界新聞] (PR)Microsoft Azure推出由NVIDIA H100 GPU驅動的虛擬機,旨在加速包括ChatGPT在內的人工智慧

[複製鏈接]| 回復
跳轉到指定樓層
1#
sxs112.tw 發表於 2023-3-14 09:37:30 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
Microsoft Azure宣布其全新的虛擬機由NVIDIA的頂級H100 GPU提供支援,以加速ChatGPT等人工智慧。
NVIDIA-Hopper-GPU-_1.png

新聞稿:為我們的客戶兌現高級人工智慧的承諾需要超級計算基礎設施、服務和專業知識,以應對最新模型的規模和復雜性呈指數級增長。

在Microsoft,我們通過應用十年的超級計算經驗和支援最大的AI訓練工作負載來應對這一挑戰,以打造能夠大規模實現大規模性能的AI基礎設施。Microsoft Azure 雲,特別是我們的圖形處理單元 (GPU) 加速虛擬機 (VM),為Microsoft和我們的客戶的許多生成式AI進步奠定了基礎。
How-Microsofts-bet-on-Azure-unlocked-an-AI-revolution-hero.jpg

今天Microsoft推出了ND H100 v5 VM,它支援按需大小不等的8到數千個NVIDIA H100 GPU,這些GPU透過NVIDIA Quantum-2 InfiniBand網路互連。與我們上一代ND A100 v4 VM相比,客戶將看到人工智慧模型的性能顯著提高,這些創新技術包括:
  • 8個NVIDIA H100 Tensor Core GPU透過下一代NVSwitch和NVLink 4.0互連
  • non-blocking fat-tree network中每個GPU 400Gb/s NVIDIA Quantum-2 CX7 InfiniBand,每個VM 3.2Tb/s
  • NVSwitch和NVLink 4.0,每個VM內的8個本地GPU之間的對分頻寬為3.6TB/s
  • 4th Gen Intel Xeon Scalable processors
  • PCIE Gen5主機到GPU互連,每個GPU頻寬為64GB/s
  • 16通道 4800MHz DDR5 DIMM


生成式AI應用正在迅速發展,並在幾乎所有行業中增加獨特的價值。從使用新的AI驅動的Microsoft Bing和Edge重塑搜索到Microsoft Dynamics 365中的AI驅動輔助,AI正在迅速成為軟體的一個普遍組成部分以及我們與之交互的方式,我們的AI基礎設施將在那裡鋪平道路.

憑藉我們為全球Azure客戶提供多台ExaOP超級電腦的經驗,客戶可以相信他們可以透過我們的基礎設施實現真正的超級電腦性能。對於致力於大規模部署的 Microsoft和組織,如Inflection、NVIDIA和OpenAI,此產品將啟用一類新的大規模AI模型。

大規模AI內建於Azure的DNA中。我們最初投資於Turing等大型語言模型研究,以及在雲端中打造第一台AI超級電腦等工程里程碑,為生成人工智慧成為可能的那一刻做好了準備。Azure機器學習等Azure服務使客戶可以訪問我們的AI超級電腦進行模型訓練,而Azure OpenAI服務使客戶能夠利用大規模生成AI模型的力量。規模一直是我們為AI優化Azure的北極星。我們現在正在為各種規模的初創公司和公司帶來超級計算能力,而不需要大量物理硬體或軟體投資的資金。

消息來源
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-11 06:21 , Processed in 0.075502 second(s), 34 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表