Intel的Core Ultra CPU透過其NPU帶來了強大的AI功能,因為它們能夠在單一機器上運行超過500個AI模型。
[新聞稿]:今天Intel宣布超過500個人工智慧模型在全新Intel Core Ultra 處理器上運行優化,這是當今市場上業界領先的人工智慧PC處理器,有全新的人工智慧體驗、沉浸式圖形和最佳電池壽命。這一重要里程碑是Intel在客戶端AI、AI PC轉型、框架優化以及包括OpenVINO工具套件在內的 AI 工具方面投資的結果。
這500個模型可跨中央處理單元 (CPU)、圖形處理單元 (GPU) 和神經處理單元 (NPU) 進行部署,可從流行的行業來源獲取,包括OpenVINO Model Zoo、 Hugging Face、 ONNX Model Zoo和PyTorch。這些模型借鑒了本地人工智慧推理的類別,包括大語言、擴散、超解析度、物件偵測、影像分類/分割、電腦視覺等。
重要性: 超過500個AI模型對於Intel培育和支援AI PC轉型的努力具有里程碑意義。Intel Core Ultra處理器不僅是迄今為止成長最快的AI PC處理器(2023年全年單季銷量超過競爭對手處理器),而且還是最強大的AI PC開發平台,擁有更多AI模型。
模型構成了人工智慧增強軟體功能的支柱,例如物件刪除、圖像超解析度或文字摘要。已啟用/優化模型的數量與可推向市場的針對用戶的人工智慧功能的廣度之間存在直接聯繫。沒有模型,就無法設計該功能。如果沒有運行時最佳化,該功能就無法達到最佳效能。
AI模型如何運作: AI模型是軟體堆疊中的許多關鍵層之一,決定了AI驅動的應用程式的最終效能、穩定性和功能。人工智慧模型經過訓練可以分析大量數據、得出結論並根據此類推論採取行動。打造新的人工智慧PC功能的開發人員可以利用這些模型並在其基礎上進行建置。 AI模型越多,啟用的AI PC功能就越多。
AI模型可以作用於文字、語音、音訊、圖像以及PC體驗中常見的其他視聽來源。人工智慧模型構成了為用戶開發的人工智慧增強功能的基礎,例如自動文字摘要、減少電話會議期間的能耗或從圖片中刪除不需要的物件。OpenVINO透過在所有運算單元之間進行負載平衡、壓縮模型以在AI PC中高效運行以及優化運行時以利用Intel Core Ultra中的記憶體頻寬和核心架構來優化Intel Core Ultra。
我們不斷努力在Intel Core Ultra上實現一系列無與倫比的高性能模型,為軟體開發人員提供了廣泛的創新領域,並簡化了向用戶提供AI PC應用程式和功能的過程。
關於其他功能和優點: 500多個優化的AI模型的功能和優點:
- 促進開發和部署。
- 涵蓋20多個人工智慧類別,包括大語言、擴散、超解析度、物件偵測和電腦視覺。
- 包括Phi-2、Mistral、Llama、Bert、Whisper和Stable Diffusion 1.5。
- 提高系統穩定性、可靠性和效能。
消息來源 |