第五代Xeon MLPerf AI跑分提升1.8倍！ Intel仍是唯一
近日MLCommons公佈了針對AI推理的MLPerf v4.0測試結果，其中Intel Emerald Rapids第五代Xeon處理器表現優異，相比Sapphire Rapids第四代Xeon性能大幅提升。迄今為止Intel仍然是唯一提交MLPerf CPU測試結果的廠商，從2020年開始提交採用第四代Xeon的測試結果，如今第五代Xeon也加入了進來。具體來說第五代Xeon經過硬體、軟體優化，對比第四代Xeon在MLPerf v3.1的表現相比，平均提升了1.42倍。其中針對具備連續批次（continuous batching）等軟體最佳化的GPT-J模型，效能提升約1.8倍。
得益於MergedEmbeddingBag、Intel AMX加速器等其他優化，DLRMv2的測試效能提升約1.8倍，準確率達99.9。
消息來源
頁:
[1]