AMD與Radeon PRO W7900雙插槽顯示卡一起推出ROCm 6.1.3開放式運算AI軟體
AMD正式推出了全新的ROCm 6.1.3開放式運算軟體，增加了AI功能並支援Radeon PRO W7900雙插槽顯示卡。AMD在2024年Computex上宣布正式在零售領域推出Radeon PRO W7900雙插槽顯示卡 。 Radeon PRO W7900售價為3499美元，據說提供領先的CP值和巨大的48GB記憶體，可在LLM（大型語言模型）等針對AI的工作負載中實現更快的性能。
直接看規格，AMD Radeon PRO W7900 示卡採用雙插槽設計，使其成為工作站設定的完美解決方案，可容納多達四個人工智慧就緒的龐然大物。在內部此顯示卡採用Navi 31 XTX GPU核心，96個運算單元內包含6144個核心。 GPU配備384位元寬匯流排，並裝載48GB GDDR6記憶體，可提供高達864GB/s的頻寬。該卡還配備96MB無限快取，進一步提升效能，為這款高階GPU提供更多頻寬。
以下是該顯示卡的一些主要亮點：
[*]令人印象深刻的性能 – 有96個計算單元、192個AI和96個加速器，可在峰值單精度(FP32) 下提供高達61.32 TFLOPs的出色性能，在峰值半精度(FP16) 下提供高達122.64 TFLOPS的性能。
[*]領先的CP值 –Llama 3 70B Q4的CP值比競爭產品高出38%，並且能夠在單一GPU緩衝區上安裝70B參數模型。
[*]卓越的記憶體 – 配備糾錯碼 (ECC) 技術的48GB記憶體可確保資料完整性，可輕鬆實現無縫多工處理和複雜專案處理。
[*]桌面上的AI–配備多達四個AMD Radeon PRO W7900雙插槽顯示卡的本地PC或工作站可為任何IT基礎設施增添強大的AI性能，非常適合任務關鍵型項目，並有助於將敏感資料保留在內部。
除了推出Radeon PRO W7900雙槽顯示卡之外，AMD還推出了公開發布的ROCm 6.1.3開放式運算軟體。新的ROCm軟體為Radeon和Radeon PRO系列的消費級顯示卡帶來了增強的可及性和更廣泛的支援。此次發布的亮點包括：
[*]多GPU支援，能夠為多服務、多用戶解決方案建立可擴展的AI桌面。
[*]對適用於Linux的Windows系統的Beta級支援，使這些解決方案能夠在採用Windows作業系統的系統上與ROCm配合使用。
[*]TensorFlow框架的支援為AI開發提供了更多選擇。
AMD表示ROCm 6.1.3支援最多四個合格的Radeon RX和Radeon PRO GPU（Radeon RX 7900 XTX、7900 XT、7900 GRE、Radeon PRO W7900、PRO W7900 DS、PRO W7800）。現在可以將任四個GPU的組合直接插入工作站，客戶可以利用擴充的效能、可擴充性和可存取性功能。每個GPU都可以獨立計算推理並輸出回應。 ROCm 6.1.3軟體也在BETA版中加入了對Windows Subsystem for Linux（也稱為WSL 2）的支援。
每個GPU擁有高達48GB的可用記憶體，您可以獲得高達192GB記憶體容量，可滿足您的AI需求。
雖然PyTorch和ONNX仍然是首選，但ROCm 6.1.3也增加了Tensorflow框架的資格，為用戶的AI開發提供了更多選擇。
消息來源
頁:
[1]