Celestial AI結合HBM和DDR5，功耗降低90%，AMD可用於下一代Chiplet

sxs112.tw · 發表於 2024-4-16 21:35:22

新創公司Celestial AI 開發了一種新的互連解決方案，利用DDR5和HBM記憶體來提高小晶片的效率，AMD可能是最早使用這種設計的公司之一。

與半導體一樣，人工智慧產業的世代演進已經變得非常必要，無論是硬體領域的進步還是互連方法的進步。連接數千個加速器的傳統方式包括NVIDIA的NVLINK、傳統的乙太網路方法，甚至是AMD自己的Infinity Fabric。儘管如此，它們仍然在幾個方面受到限制，不僅因為它們提供的互連效率，還因為缺乏擴展空間，這導致業界尋找替代品，其中之一就是Celestial AI的Photonic Fabric。

在先前的文章中，我們提到了矽光子學的重要性，以及這項結合了雷射和矽技術的技術如何成為互連領域的下一個重大事件。 Celestial AI充分利用了它，利用該技術的力量來開發其光子結構解決方案。

該公司聯合創始人Dave Lazovsky表示該公司的Photonic Fabri 已成功贏得了潛在客戶的巨大興趣，不僅在第一輪融資中獲得了1.75億美元，而且還獲得了AMD 等公司的支持，這表明如何互連方法可能會變得很大。

對我們的Photonic Fabric的需求激增是擁有正確的技術、正確的團隊和正確的客戶參與模式的結果。

——Celestial AI共同創辦人Dave Lazovsky

談到Photonic Fabric的功能，該公司透露第一代技術有可能為每mm2提供1.8Tb/秒的速度，第二次可以比前一代技術增加四倍之多。然而由於堆疊多個HBM模型所帶來的記憶體容量限制，互連確實受到一定程度的限制，但Celestial AI也為此提出了一個有吸引力的解決方案。

該公司打算將DDR5記憶體與HBM堆疊的使用整合起來，因為板載記憶體模組擴充可透過堆疊兩個HBM和一組四個DDR5 DIMM來實現更大的容量，結合72GB和高達2TB的記憶體容量，這確實很有趣，考慮到使用DDR5，您將獲得更高的CP值，最終產生更有效率的模型。 Celestial AI計劃使用Photonic Fabric作為連接一切的接口，該公司將這種方法標記為無需任何成本開銷的Supercharged Grace-Hopper。

不過Celestial AI認為他們的互連解決方案至少要到2027年才會上市，到那時Silicon Photonics領域將會湧現出許多競爭對手，這意味著Celestial AI進入這個領域並不容易。尤其是在台積電和Intel的主流解決方案之後。

消息來源

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

極致效能優化三星990 EVO 玩家體驗分享活

FSP VITA GM White 玩家開箱體驗分享活動

FV150 RGB 玩家開箱體驗分享活動

海韻創新技術分享會會後分享--得獎公告

[處理器主機板] Celestial AI結合HBM和DDR5，功耗降低90%，AMD可用於下一代Chiplet