微軟推出128核心Arm架構CPU， 以及針對AI應用的GPU
上個月就有報導稱，微軟和OpenAI正在開發自己的AI晶片，併計劃在11月發布，希望可以更有效率、更低成本地適配其開發的大型語言模型（LLM），滿足未來算力的需求。先前微軟先後向OpenAI投資了數十億美元，利用英偉達最新的H100計算卡，以滿足處理訓練和擴展AI所需的龐大運算負載。在這次開發者大會上，微軟宣布推出其晶片實驗室設計的兩款客製化晶片，分別是Azure Maia 100 AI加速器和Azure Cobalt 100處理器。
微軟表示，目前這些晶片都處於“部署的第一階段”，明年初會出現在資料中心，首先用於運行Copilot、Azure OpenAI和其他服務。微軟並未透露具體有多少晶片可用，但即便有了自己的客製化晶片，未來仍將使用英偉達和AMD等合作夥伴的晶片為客戶服務。
Azure Maia 100 AI加速器所使用的GPU就是代號為「雅典娜（Athena）」的項目，基於台積電（TSMC）的5nm製程製造，擁有1,050億個電晶體，目前初始伺服器正在接受GPT 3.5 Turbo的測試。Azure Cobalt 100處理器擁有128核心，支援64位元Armv9指令集，使用了Arm為微軟量身訂做的Neoverse CSS平台，可能是基於Neoverse N2核心。
微軟稱，Maia的伺服器採用完全客製化的基於乙太網路的網路協定設計，可實現更好的擴展性和端到端工作負載效能。
消息來源
頁:
[1]