AMD正式推出了全新的ROCm 6.1.3開放式運算軟體,增加了AI功能並支援Radeon PRO W7900雙插槽顯示卡。
AMD在2024年Computex上宣布正式在零售領域推出Radeon PRO W7900雙插槽顯示卡 。 Radeon PRO W7900售價為3499美元,據說提供領先的CP值和巨大的48GB記憶體,可在LLM(大型語言模型)等針對AI的工作負載中實現更快的性能。
直接看規格,AMD Radeon PRO W7900 示卡採用雙插槽設計,使其成為工作站設定的完美解決方案,可容納多達四個人工智慧就緒的龐然大物。在內部此顯示卡採用Navi 31 XTX GPU核心,96個運算單元內包含6144個核心。 GPU配備384位元寬匯流排,並裝載48GB GDDR6記憶體,可提供高達864GB/s的頻寬。該卡還配備96MB無限快取,進一步提升效能,為這款高階GPU提供更多頻寬。
以下是該顯示卡的一些主要亮點:
- 令人印象深刻的性能 – 有96個計算單元、192個AI和96個加速器,可在峰值單精度(FP32) 下提供高達61.32 TFLOPs的出色性能,在峰值半精度(FP16) 下提供高達122.64 TFLOPS的性能。
- 領先的CP值 – Llama 3 70B Q4的CP值比競爭產品高出38%,並且能夠在單一GPU緩衝區上安裝70B參數模型。
- 卓越的記憶體 – 配備糾錯碼 (ECC) 技術的48GB記憶體可確保資料完整性,可輕鬆實現無縫多工處理和複雜專案處理。
- 桌面上的AI –配備多達四個AMD Radeon PRO W7900雙插槽顯示卡的本地PC或工作站可為任何IT基礎設施增添強大的AI性能,非常適合任務關鍵型項目,並有助於將敏感資料保留在內部。
除了推出Radeon PRO W7900雙槽顯示卡之外,AMD還推出了公開發布的ROCm 6.1.3開放式運算軟體。新的ROCm軟體為Radeon和Radeon PRO系列的消費級顯示卡帶來了增強的可及性和更廣泛的支援。此次發布的亮點包括:
- 多GPU支援,能夠為多服務、多用戶解決方案建立可擴展的AI桌面。
- 對適用於Linux的Windows系統的Beta級支援,使這些解決方案能夠在採用Windows作業系統的系統上與ROCm配合使用。
- TensorFlow框架的支援為AI開發提供了更多選擇。
AMD表示ROCm 6.1.3支援最多四個合格的Radeon RX和Radeon PRO GPU(Radeon RX 7900 XTX、7900 XT、7900 GRE、Radeon PRO W7900、PRO W7900 DS、PRO W7800)。現在可以將任四個GPU的組合直接插入工作站,客戶可以利用擴充的效能、可擴充性和可存取性功能。每個GPU都可以獨立計算推理並輸出回應。 ROCm 6.1.3軟體也在BETA版中加入了對Windows Subsystem for Linux(也稱為WSL 2)的支援。
每個GPU擁有高達48GB的可用記憶體,您可以獲得高達192GB記憶體容量,可滿足您的AI需求。
雖然PyTorch和ONNX仍然是首選,但ROCm 6.1.3也增加了Tensorflow框架的資格,為用戶的AI開發提供了更多選擇。
消息來源 |