NVIDIA絕對主導了AI,並且取得了良好的成績 - 他們的GPU開箱即用,是想要涉足消費者AI的專業人士和企業的首選。但就在本週,Intel和AMD都優化了他們的軟體,以大幅提升生成式AI的速度,AMD的RTX 7900 XTX在生成式AI方面的CP值將比NVIDIA RTX 4080更高(特別是使用A111的穩定擴散)。考慮到穩定擴散目前佔非SaaS、本地化生成AI的絕大多數 - 這是一個重要的里程碑,最終為NVIDIA帶來了一些競爭。
使用Microsoft Olive和DirectML而不是PyTorch路徑會導致AMD 7900 XTX的迭代次數從微不足道的1.87 iterations per second到18.59 iterations per second!您可以在這裡閱讀 AMD的詳細指南。Automatic111的這種性能水平非常接近採用SHARK的穩定擴散方法,並且無疑使該公司在生成人工智慧方面處於領先地位。事實證明這也使得7900 XTX 的GenAI性能比同類RTX 4080略高——至少以目前的價格來看是這樣。
在我們計算數字之前,我確實想提一下,與NVIDIA不同,AMD途徑確實要求用戶更加精通技術(AMD途徑使用Microsoft Olive而不是PyTorch,並且大多數自動安裝程式可能不會安裝依賴項自動需要此功能) - 因此如果方便是您考慮的因素- NVIDIA仍然是您的最佳選擇。但如果基礎足夠好,專業人士和小型企業通常可以解決初始設置的麻煩,而這裡的情況似乎確實如此。
正如我們所看到的,AMD終於開始在生成AI中大放異彩,與穩定的4080相比,它提供了更高的價值。AMD 7900 XTX提供18.59 iterations per second,用戶每每秒支付52.1美元,而NVIDIA RTX 4080提供19.41 iterations per second,用戶每秒支付56.6美元。如果用戶選擇不太常見的SHARK實現,他們可以將Radeon 7900 XTX的價值主張一路推高至46.6美元。因此AMD正式成為對生成式AI感興趣的消費者的競爭者。
這也意味著只要AMD稍微多一點關注,他們就可以成為NVIDIA人工智慧雄心的強大競爭對手。大多數人不會在地下室外執行LLM,但GenAI和SLM/ULM將在未來12個月內無處不在,並成為許多生產力工作流程的一部分。Intel和AMD如何在NVIDIA領先的市場中定位自己,將決定它們在人工智慧主導的世界中的表現。
消息來源 |