NVIDIA：進階 AI PC 需要 100-1000 AI TOPS 運算能力的獨立 GPU
AI PC 蓬勃發展的一年，受惠於 Stable Diffusion、ChatGPT 等 AI 應用問世，讓更多消費者瞭解到 AI 正在改變我們的生活。而 AI PC 定義著電腦的處理器需具備專用的 NPU 處理器，提供 10-45 TOPS 的運算能力，但最主要是讓筆電在電池模式下也可有著順暢的 AI 輔助效能。最早跨入 AI 領域的 NVIDIA 或許有著不同看法，NVIDIA 在 RTX For Windows AI 的分享會提出「進階 AI PC」，要能夠提供 100-1000 AI TOPS 運算能力的獨立 GPU，能將 AI 應用在遊戲、創作、影片、生產力、開發與每日工作當中，而這些進階 AI PC 能提供更完整的效能與快速反應。
RTX For Windows AI 能提供在遊戲中的畫質提升、補幀、智慧角色，並在創作中提供影片、相片的邊修、生成、降噪、提升畫質，至於日常的影片播放也可提供 VSR 的畫質提升，或者利用 AI 擬草稿、整理資料，甚至幫助程式開發、除錯等工作。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-1.jpg
而藉由 AI 加速的硬體大致可分為基本 AI PC，通過 NPU 提供 10-45 TOPS 運算能力，處理小型的 AI 模型與日常輔助工作。進階 AI PC 則需要靠獨立 GPU 提供 100-1300+ TOPS 的運算能力，可以負擔大型的模型並有著更強的運算效能。至於更大型的 AI 則要靠雲端 GPU 伺服器來處理。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-2.jpg
其實 NVIDIA 想表達的是具備獨立 GPU 的電腦能夠提供 100 TOPS 以上的 AI 加速效能就可稱做進階 AI PC。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-3.jpg
進階 AI PC 與一般 AI PC 不同在於前者透過 GPU 加速、後者則是 NPU，因此 GPU 可提供更高 100-1300 AI TOPS 的算力與 FP 浮點數的精度運算，並且在各項 AI 加速的工作中可提供更快的效能與更高的品質。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-4.jpg
NVIDIA RTX 目前已有超過 500 個 AI 應用與遊戲支援，並有著目前 PC 平台最高的 1300 AI TOPS 運算效能，而 NVIDIA 也有著完整的技術堆疊，可以支援 PyTorch、ONNX 與 TensorFlow 各種框架應用 NVIDIA RTX 的技術。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-5.jpg
RTX 遊戲主力當然就是 DLSS 3 的 AI 補幀加速，以及 RTX Remix 的次世代模改工具，在加上 NVIDIA ACE 的 AI 角色的對話式功能，而且結合 LLM 語言模型可做為玩家的遊戲教練。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-6.jpg
RTX 在內容創作上，不論是 Stable Diffusion、Arnold、Blender、V-Ray、Octane、Premiere Pro Enchmance Speech、DaVinci Resolve、ON1 Resize AI 等應用中，都可輕鬆贏過 MacBook Pro M3 Max，讓創作工作者能有著高速的運算效能輸出。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-7.jpg
UL Benchmark 也就是推出知名的 3DMark、PCMark 等測試工具的軟體公司，在企業測試的 UL Procyon 工具中加入 AI Image Generation Benchmark，支援著各家 AI 引擎利用 Stable Diffusion 1.5 替 CPU 與 GPU 硬體進行測試。而 NVIDIA 僅靠著 RTX 4070 Super 即可贏過對手，並有著霸榜的表現。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-9.jpg
RTX 生產力工具上，最快普及的肯定是 LLM 大型語言模型的本地端部屬，RTX 4090 有著最強的效能這無庸置疑，但是即便 RTX 4050 也可贏過 Apple M3 的效能。LLM 工具可借住 AI 幫助用戶整理資料、摘要重點等日常工具，亦可透過 NVIDIA Broadcast 提供去背、跟蹤對焦、眼神追蹤等功能，當然還有 VSR 影像畫質提升等功能都已經藉由 AI 提供更好的功能體驗。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-10.jpg
另一段 RTX 開發應用上，可借住 AI 幫忙訓練與微調並借住 LLM Code 提供程式碼輔助等功能。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-11.jpg
由 NVIDIA RTX 驅動的進階 AI PC，能擁有 100-1300 TOPS 的 AI 效能，以及 500 多款 AI 應用與遊戲支援，提供快速反應低延遲的效能。
總之 AI PC 事在必行，藉由獨立 GPU 可提供更高的 AI 運算效能，對於文字生成圖片、大型語言模型的操作、影像降噪畫質提升等運算，都需要更強悍的運算效能來處理。而 NPU 主要是讓筆電在電池模式下，有著更長續航表現的 AI 應用加速功能。
https://news.xfastest.com/wp-content/uploads/2024/04/NVIDIA-PREMIUM-AI-PC-12.jpg
頁:
[1]