SanDisk開發出HBM Killer：高頻寬快閃記憶體 (HBF) 為AI GPU提供4TB VRAM

在WD分拆後的首個投資者日上，SanDisk展示了其為應對人工智慧領域所做的一些工作。高頻寬快閃記憶體（HBF）是一種新型記憶體架構，它將3D NAND快閃記憶體儲存與可與高頻寬記憶體（HBM）媲美的頻寬能力結合。 HBF設計使用矽通孔堆疊16個3D NAND BiCS8晶片並帶有一個邏輯層，可以並行存取記憶體陣列。與目前的HBM相比，此配置可實現每堆疊8到16倍的容量。使用八個HBF堆疊的系統可以提供4TB的VRAM，以將GPT-4等大型AI模型直接儲存在GPU硬體上。

該架構打破了傳統的NAND設計，透過實現獨立可存取的記憶體陣列，超越了傳統的多平面方法。雖然HBF超過了HBM的容量規格，但它的延遲比DRAM更高，限制了其在特定工作負載上的應用。

儘管使用pSLC NAND可以平衡耐用性和成本，但SanDisk尚未揭露針對NAND固有寫入耐久性限制的解決方案。 HBF的頻寬也未知，因為該公司尚未公佈詳細資訊。 SanDisk記憶體技術執行長Alper Ilkbahar證實該技術針對的是讀取密集型AI推理任務，而不是延遲敏感的應用程式。該公司正在開發HBF作為開放標準，結合與HBM類似的機械和電氣介面以簡化整合。

仍然存在一些挑戰，包括NAND的區塊級尋址限制和寫入耐久性限制。雖然這些因素使得HBF不適合遊戲應用，但該技術的高容量和吞吐量特性符合AI模型儲存和推理要求。 SanDisk已宣布三代HBF開發計劃，表明了對該技術的長期承諾。

消息來源