NVIDIA展示AI運算的未來，以Silicon Photonic和3D GPU/DRAM堆疊為特色

sxs112.tw · 發表於 2024-12-11 11:55:18

NVIDIA在IEDM 2024會議上展示了其下一代AI加速器的方法，展示了創新的Silicon Photonic實現。

鑑於人工智慧運算需求隨著時間的推移而大幅增加，借助現代封裝技術，該行業已經達到了迫切需要創新的地步。每當討論封裝的未來時，Silicon Photonic (SiPh) 就被認為是傳統方法的可行替代方法。有趣的是在IEDM 2024 議上NVIDIA團隊（透過Ian Cutress）提出了針對下一代加速器的獨特策略，其中涉及使用 SiPh中介層並為如此大型的計算產品垂直堆疊GPU塊。

NVIDIA團隊的實施建議整合矽光子中介層，取代現有的電氣互連。 SiPh的利用帶來了多種好處，可能表現為提供更高的頻寬和更低的延遲，並且是一種比其他方法更節能的方法。不僅僅是中介層，NVIDIA還計劃在晶片內和晶片間通訊中使用12個SiPh，從而優化各個GPU區塊之間的資料流，這對於可擴展性和效能至關重要。

有趣的是GPU堆疊技術在NVIDIA的願景中最有吸引力，因為該公司已經透露了使用3D堆疊（即垂直堆疊多個GPU區塊）來增加晶片密度並減少佔用空間。NVIDIA團隊將此配置稱為GPU層”，一層有四個GPU區塊，全部以垂直方向堆疊，以減少互連延遲，並可能實現電源門控，因為這裡是可能的。不僅是GPU，NVIDIA還將3D堆疊DRAM晶片，每塊6個。

雖然這聽起來是一個樂觀的方法，但NVIDIA的願景存在一些複雜性，主要是矽光子技術目前實際上是多麼初期，因為它是一個相對較新的標準。 NVIDIA團隊需要看到SiPh進入大批量生產，然後才能看到任何主流整合，而這將需要很長時間。除此之外激進的3D堆疊將使散熱成為一個大問題，迫使NVIDIA整合晶片內散熱解決方案，但目前尚未出現。

分析師Ian Cutress認為考慮到這個過程的複雜性，這項實施可能將在未來五年內實現，很可能在2028年至2030年之間。

消息來源

文章分享：

+ MORE精選文章：

+ MORE活動推薦：

SAMSUNG T7 Shield 移動固態硬碟

GEX PRO 850W玩家開箱體驗分享活動

體驗極速WiFi 7！MSI Roamii BE Lite Mesh

極致效能為遊戲而生 990 PRO SSD 玩家體驗

[業界新聞] NVIDIA展示AI運算的未來，以Silicon Photonic和3D GPU/DRAM堆疊為特色