NVIDIA：進階 AI PC 需要 100-1000 AI TOPS 運算能力的獨立 GPU

AI PC 蓬勃發展的一年，受惠於 Stable Diffusion、ChatGPT 等 AI 應用問世，讓更多消費者瞭解到 AI 正在改變我們的生活。而 AI PC 定義著電腦的處理器需具備專用的 NPU 處理器，提供 10-45 TOPS 的運算能力，但最主要是讓筆電在電池模式下也可有著順暢的 AI 輔助效能。

最早跨入 AI 領域的 NVIDIA 或許有著不同看法，NVIDIA 在 RTX For Windows AI 的分享會提出「進階 AI PC」，要能夠提供 100-1000 AI TOPS 運算能力的獨立 GPU，能將 AI 應用在遊戲、創作、影片、生產力、開發與每日工作當中，而這些進階 AI PC 能提供更完整的效能與快速反應。

RTX For Windows AI 能提供在遊戲中的畫質提升、補幀、智慧角色，並在創作中提供影片、相片的邊修、生成、降噪、提升畫質，至於日常的影片播放也可提供 VSR 的畫質提升，或者利用 AI 擬草稿、整理資料，甚至幫助程式開發、除錯等工作。




而藉由 AI 加速的硬體大致可分為基本 AI PC，通過 NPU 提供 10-45 TOPS 運算能力，處理小型的 AI 模型與日常輔助工作。進階 AI PC 則需要靠獨立 GPU 提供 100-1300+ TOPS 的運算能力，可以負擔大型的模型並有著更強的運算效能。至於更大型的 AI 則要靠雲端 GPU 伺服器來處理。




其實 NVIDIA 想表達的是具備獨立 GPU 的電腦能夠提供 100 TOPS 以上的 AI 加速效能就可稱做進階 AI PC。




進階 AI PC 與一般 AI PC 不同在於前者透過 GPU 加速、後者則是 NPU，因此 GPU 可提供更高 100-1300 AI TOPS 的算力與 FP 浮點數的精度運算，並且在各項 AI 加速的工作中可提供更快的效能與更高的品質。




NVIDIA RTX 目前已有超過 500 個 AI 應用與遊戲支援，並有著目前 PC 平台最高的 1300 AI TOPS 運算效能，而 NVIDIA 也有著完整的技術堆疊，可以支援 PyTorch、ONNX 與 TensorFlow 各種框架應用 NVIDIA RTX 的技術。




RTX 遊戲主力當然就是 DLSS 3 的 AI 補幀加速，以及 RTX Remix 的次世代模改工具，在加上 NVIDIA ACE 的 AI 角色的對話式功能，而且結合 LLM 語言模型可做為玩家的遊戲教練。




RTX 在內容創作上，不論是 Stable Diffusion、Arnold、Blender、V-Ray、Octane、Premiere Pro Enchmance Speech、DaVinci Resolve、ON1 Resize AI 等應用中，都可輕鬆贏過 MacBook Pro M3 Max，讓創作工作者能有著高速的運算效能輸出。




UL Benchmark 也就是推出知名的 3DMark、PCMark 等測試工具的軟體公司，在企業測試的 UL Procyon 工具中加入 AI Image Generation Benchmark，支援著各家 AI 引擎利用 Stable Diffusion 1.5 替 CPU 與 GPU 硬體進行測試。而 NVIDIA 僅靠著 RTX 4070 Super 即可贏過對手，並有著霸榜的表現。




RTX 生產力工具上，最快普及的肯定是 LLM 大型語言模型的本地端部屬，RTX 4090 有著最強的效能這無庸置疑，但是即便 RTX 4050 也可贏過 Apple M3 的效能。LLM 工具可借住 AI 幫助用戶整理資料、摘要重點等日常工具，亦可透過 NVIDIA Broadcast 提供去背、跟蹤對焦、眼神追蹤等功能，當然還有 VSR 影像畫質提升等功能都已經藉由 AI 提供更好的功能體驗。




另一段 RTX 開發應用上，可借住 AI 幫忙訓練與微調並借住 LLM Code 提供程式碼輔助等功能。




由 NVIDIA RTX 驅動的進階 AI PC，能擁有 100-1300 TOPS 的 AI 效能，以及 500 多款 AI 應用與遊戲支援，提供快速反應低延遲的效能。

總之 AI PC 事在必行，藉由獨立 GPU 可提供更高的 AI 運算效能，對於文字生成圖片、大型語言模型的操作、影像降噪畫質提升等運算，都需要更強悍的運算效能來處理。而 NPU 主要是讓筆電在電池模式下，有著更長續航表現的 AI 應用加速功能。