Kimi 發表於 2024-4-24 11:38:40

高通實現Meta Llama 3在搭載Snapdragon的裝置上運行



亮點:

[*]高通與Meta合作最佳化Meta Llama 3大型語言模型,支持在即將推出的Snapdragon旗艦平台上實現裝置上執行。
[*]開發者將能存取Qualcomm AI Hub的資源以及工具,以在 Snapdragon 平台上最佳化運行 Llama 3,進而縮短上市時間,並充分發揮裝置上AI的優勢。
[*]高通技術公司的裝置上AI功能包括業界領先的NPU、CPU和GPU的技術組合,可針對生成式AI應用實現即時性、增強的可靠性、隱私、情境感知的個人化和成本效益。


【2024年4月18日,聖地牙哥訊】高通技術公司和Meta宣布合作,以最佳化Meta Llama 3大型語言模型(LLM)直接在智慧型手機、PC、VR/AR頭戴式裝置和汽車等終端裝置上的執行表現。在裝置上運行Llama 3可帶來顯著優勢,包括更出色的反應能力、增強的隱私和可靠性,以及為使用者打造更加個人化的體驗。


高通技術公司資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示:
「我們讚賞Meta對於Meta Llama 3的開放策略,高通與Meta都致力於支持開發者,激發AI創新。高通在裝置上AI的領先地位,結合我們在跨不同邊緣裝置的廣泛影響力,使我們能夠在全球擴大Llama 生態系的優勢,並使客戶、合作夥伴和開發人員能夠創造新一代具突破性的AI體驗。」

此次合作旨在支援OEM廠商和開發人員,讓其能夠在搭載即將推出的旗艦 Snapdragon平台裝置上取用 Llama 3,推動生成式 AI 功能的普及。
高通技術公司強大的異質運算架構,無縫地利用業界領先的CPU、GPU和NPU,並結合尖端的記憶體架構,使客戶、合作夥伴和開發人員能夠最大限度地提升應用效能、散熱效率和電池續航力。

開發人員將能在Qualcomm AI Hub上取得相關資源和工具,以實現在Snapdragon平台上最佳化運行Llama 3。
Qualcomm AI Hub目前可提供約100個最佳化的AI模型,能為開發者縮短產品上市時間,並讓其開發的應用程式充分發揮裝置上AI的優勢。欲瞭解最新動態,請訂閱高通的每月開發者電子報。

高通技術公司和Meta 致力於推動創新並實現新一代AI體驗,此次合作是雙方持續攜手努力的重要里程碑,展示了雙方以强大AI功能為開發人員和使用者提供支持的决心。


關於美國高通公司
高通正在實現一個人與萬物智慧連結的世界。高通統一的技術藍圖讓我們能有效地擴展包括先進的連網能力、高效能低功耗運算、裝置上智慧等更多推動行動革新的技術,至新一代橫跨產業的連結智慧裝置。高通的創新以及我們的Snapdragon平台家族,為帶來更大的福祉,將協助實現雲端邊緣的融合、產業轉型、加速數位經濟以及革新我們體驗這個世界的方式。美國高通公司包括技術許可業務(QTL)和我們絕大部分的專利組合。高通技術公司(QTI)是美國高通公司的全資子公司,與其子公司一起營運我們所有的工程、研發活動以及所有產品和服務業務,其中包括半導體業務QCT。Snapdragon和高通品牌產品是高通技術公司和/其子公司的產品。高通專利技術經高通公司授權。



頁: [1]
查看完整版本: 高通實現Meta Llama 3在搭載Snapdragon的裝置上運行