Microsoft Azure宣布其全新的虛擬機由NVIDIA的頂級H100 GPU提供支援，以加速ChatGPT等人工智慧。
新聞稿：為我們的客戶兌現高級人工智慧的承諾需要超級計算基礎設施、服務和專業知識，以應對最新模型的規模和復雜性呈指數級增長。
在Microsoft，我們通過應用十年的超級計算經驗和支援最大的AI訓練工作負載來應對這一挑戰，以打造能夠大規模實現大規模性能的AI基礎設施。Microsoft Azure 雲，特別是我們的圖形處理單元 (GPU) 加速虛擬機 (VM)，為Microsoft和我們的客戶的許多生成式AI進步奠定了基礎。
今天Microsoft推出了ND H100 v5 VM，它支援按需大小不等的8到數千個NVIDIA H100 GPU，這些GPU透過NVIDIA Quantum-2 InfiniBand網路互連。與我們上一代ND A100 v4 VM相比，客戶將看到人工智慧模型的性能顯著提高，這些創新技術包括：
- 8個NVIDIA H100 Tensor Core GPU透過下一代NVSwitch和NVLink 4.0互連
- non-blocking fat-tree network中每個GPU 400Gb/s NVIDIA Quantum-2 CX7 InfiniBand，每個VM 3.2Tb/s
- NVSwitch和NVLink 4.0，每個VM內的8個本地GPU之間的對分頻寬為3.6TB/s
- 4th Gen Intel Xeon Scalable processors
- PCIE Gen5主機到GPU互連，每個GPU頻寬為64GB/s
- 16通道 4800MHz DDR5 DIMM
生成式AI應用正在迅速發展，並在幾乎所有行業中增加獨特的價值。從使用新的AI驅動的Microsoft Bing和Edge重塑搜索到Microsoft Dynamics 365中的AI驅動輔助，AI正在迅速成為軟體的一個普遍組成部分以及我們與之交互的方式，我們的AI基礎設施將在那裡鋪平道路.
憑藉我們為全球Azure客戶提供多台ExaOP超級電腦的經驗，客戶可以相信他們可以透過我們的基礎設施實現真正的超級電腦性能。對於致力於大規模部署的 Microsoft和組織，如Inflection、NVIDIA和OpenAI，此產品將啟用一類新的大規模AI模型。
大規模AI內建於Azure的DNA中。我們最初投資於Turing等大型語言模型研究，以及在雲端中打造第一台AI超級電腦等工程里程碑，為生成人工智慧成為可能的那一刻做好了準備。Azure機器學習等Azure服務使客戶可以訪問我們的AI超級電腦進行模型訓練，而Azure OpenAI服務使客戶能夠利用大規模生成AI模型的力量。規模一直是我們為AI優化Azure的北極星。我們現在正在為各種規模的初創公司和公司帶來超級計算能力，而不需要大量物理硬體或軟體投資的資金。
消息來源 |
收藏
分享
分享
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
顯身卡
