用於GB300伺服器的NVIDIA Blackwell Ultra B300 AI GPU可能會採用插槽設計

NVIDIA的Blackwell Ultra B300 GPU可能會在GB300伺服器上導入備案設計，這將使維護和升級變得更加容易。

目前NVIDIA的資料中心高效能晶片都帶來了OAM設計，即板載解決方案。透過這種設計，GPU晶片永久焊接到伺服器主機板上，例如GB200，用戶可以在一個主機板上找到Grace CPU和Blackwell GPU。

然而這可能是最後一個採用板載設計的系列，因為一些報告表明NVIDIA可能會轉向不同的設計，為GB300伺服器使用Blackwell B300 Ultra GPU。根據 MoneyDJ和經濟日報（來自Trendforce）報導B300 GPU可能採用採用插槽的設計，這將允許用戶從主機板上安裝或卸載GPU。

NVIDIA Blackwell Ultra B300 AI GPU上的插槽l方法據說可以簡化NVIDIA的製造流程並使多家公司受益，尤其是生產互連零件和插槽的台灣富士康和 LOTES。目前的Blackwell GPU直接焊接到主機板上，隨著向插槽式設計的過渡，B300 GPU可以像CPU一樣從主機板上移除。

透過這項轉變將會帶來許多好處，包括提高良率和靈活生產，因為GPU無需焊接到插槽中，而且NVIDIA也無需依賴表面貼裝技術。此外該過程還將簡化維護和售後服務，因為在出現與GPU相關的問題時無需更換整個主機板。

因此升級可以減少更換GPU時的整體停機時間，並將幫助公司向客戶提供更可靠的伺服器。然而預計新的插槽l設計將導致一些性能下降，因為這將導致一些更高的延遲。儘管如此如果維護、升級和更高的產量得到改善，那麼設計轉型的權衡是值得的。

B300的另一個重要變化是採用了FP4，這將有利於推理。推理是經過訓練的模型如何對資料進行預測，是人工智慧運算的一個重要面向。 B200在人工智慧工作負載方面已經表現出色，並已被多家公司部署。

消息來源