Procyon AI 圖片生成測試支援 INT8 精準度讓 NPU 也可測試

AI 應用中精度的高低掌握著生成的品質，但也因為圖片生成多半以 FP16  高精度計算，因此對於省電的 NPU 來說並無法正常運行。

有鑑於此 Procyon AI Image Generation Benchmark 加入 Stable Diffusion 1.5 INT8 精準度的選擇，讓各家的 NPU 可藉由測試工具獲得一致可量化的性能比較，這也是目前為數不多可比較 GPU、iGPU 與 NPU 的測試工具。

AI 圖片生成根據採用的精度不同也會影像圖片的細節呈現，下圖採用 Stable Diffusion 1.5 模型透過 Intel OpenVINO 引擎生成的圖片，可見下圖右有著較好的城堡與樹蔭的細節表現。



更高精度的 FP16 能生成更高細節的影像，但需要獨立 GPU 才能順利執行。精度改用 INT8 則可有較快的執行速度、使用較小的視訊記憶體，以及讓 NPU 有能力運行等好處。

未來測試 NPU 時也會加入這功能，讓玩家更容易量化 AI 效能。

source: benchmarks.ul.com