NVIDIA以搭載Grace CPU和Blackwell GPU的DGX Spark和DGX Station AI PC正式進軍桌面領域。
新聞稿: DGX Spark(前身為Project DIGITS)和DGX Station是一款由NVIDIA Blackwell Ultra平台提供支援的新型高性能NVIDIA Grace Blackwell桌上型超級電腦,可讓AI開發人員、研究人員、資料科學家和學生在桌面上對大型模型進行原型設計、微調和推理。使用者可以在本地運行這些模型,也可以將其使用在NVIDIA DGX Cloud或任何其他加速雲端或資料中心基礎架構上。
DGX Spark和DGX Station將先前僅在資料中心可用的Grace Blackwell架構的強大功能帶到了桌上型。開發DGX Spark和DGX Station的全球系統製造商包括華碩、戴爾、惠普公司和聯想。
DGX Spark是世界上最小的AI超級電腦,它以強大的性能和能力幫助數百萬研究人員、資料科學家、機器人開發人員和學生突破生成AI和物理AI的界限。DGX Spark的核心是NVIDIA GB10 Grace Blackwell超級晶片,針對桌上型外形進行了最佳化。 GB10配備強大的NVIDIA Blackwell GPU,有第五代Tensor Cores和 FP4支援,可提供每秒高達1,000萬億次的AI計算操作,以便使用最新的AI推理模型進行微調和推理。
GB10超級晶片採用NVIDIA NVLink-C2C互連技術,提供CPU+GPU一致性記憶體模型,頻寬是第五代PCIe的5倍。這使得超級晶片能夠在GPU和CPU之間存取數據,從而優化記憶體密集型AI開發人員工作負載的效能。
NVIDIA CEO Jensen Huang展示了一款將用於DGX Spark/Station系統的主機板。此主機板配備單一Blackwell SXM主機板,帶有相同的兩個晶片和8個HBM3e 記憶體。
該主機板目前使用B200 GPU,但也將配備升級的B300設計。此外還配備了大型72核心Grace CPU以及LPDDR5x記憶體。可以看到三個M.2插槽配備了NVMe SSD,並且主機板頂部還配備了NVLINK交換器。其他IO包括三個PCIe x16 Gen5插槽和一些瘋狂的電源傳輸,包括三個16針連接器(12V-2x6)、一個EPS 8針和一個24針ATX電源插頭。
NVIDIA DGX Station為桌上型帶來資料中心級效能,用於AI開發。 DGX Station是第一個採用NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip打造的桌上型系統,有784GB的大量一致記憶體空間,可加速大規模訓練和推理工作負載。 GB300桌上型超級晶片配備有最新一代Tensor Cores和FP4精度的NVIDIA Blackwell Ultra GPU,透過NVLink-C2C連接到高效能NVIDIA Grace CPU,提供一流的系統通訊和效能。
DGX Station還配備了 NVIDIA ConnectX-8 SuperNIC,經過最佳化,可增強超大規模AI運算工作負載。 ConnectX-8 SuperNIC支援高達800Gb/s的網絡,可提供極快、高效的網路連接,實現多個DGX站的高速連接以處理更大的工作負載,並為AI工作負載提供網路加速的資料傳輸。
DGX Station預計將於今年稍後由華碩、BOXX、戴爾、惠普、Lambda和Supermicro等製造合作夥伴推出。
消息來源 |