我們都知道Google推出Gemini已有幾個月了,該公司甚至最近還推出了新的更新。現在這家搜尋引擎龍頭擔起了推出Gemma的重任;該語言模型針對開發人員,將幫助他們負責任地建立人工智慧。現已在全球推出2B和7B版本。這兩種模型都是經過預先訓練和指令調整的版本。Google聲稱它在MMLU測試中的表現比 Mistral 7B和Llama 13B更好。
對於希望負責任地建立採用人工智慧的應用程式的開發人員來說,Google的Gemma是一條前進的道路。它可以免費使用,並且可以在大多數機器上運行,無需專門的硬體,與其他一些型號相比,Gemma最好的事情之一是它可以在電腦和筆記型電腦上運行,沒有任何問題。Google甚至談到了它如何在一些關鍵測試中表現出色,在這些測試中它可以提供比其他型號更好的性能。正如預期的那樣,該模型建立在Google的人工智慧原則之上,該公司確保對其進行了大量測試,以確保它不會給出與Google制定的原則不符的回應。
除了發布Gemma之外,Google還發布了Responsible Generative AI Toolkit,該工具包將幫助開發人員和研究人員建立安全的AI應用程式。以下是新工具包的概要。
- 安全分類: 一種用最少的範例建立強大的安全分類器的新穎方法。
- 調試: 模型調試工具可協助您調查Gemma的行為並解決潛在問題。
- 指南: 您可以根據Google在開發和部署大型語言模型方面的經驗,取得模型建構者的最佳實踐。
- 展望未來,Gemma還支援以下工具和系統,以便您可以更輕鬆地了解您正在了解的內容。
- 多框架工具: 有跨多框架Keras 3.0、本機PyTorch、JAX和Hugging Face Transformers進行推理和微調的參考實作。
- 跨裝置相容性: Gemma模型可以跨多種不同的裝置類型運行,包括筆記型電腦、桌上型電腦、物聯網、行動裝置和雲端。
- Nvidia 合作夥伴關係: 由於Google和NVIDIA之間的合作夥伴關係,Gemma針對NVIDIA GPU進行了最佳化。
- 針對Google Cloud進行了最佳化: Vertex AI提供了廣泛的MLOps工具集,其中包含一系列調整選項以及使用內建推理優化的一鍵部署。完全託管的Vertex AI 工具或自我管理的GKE提供進階自訂功能,包括從任一平台跨GPU、TPU和CPU部署到經濟高效的基礎架構。
好消息是Gemma可以在Kaggle(Colab筆記型的免費套餐)上免費使用,並且作為首次Google Cloud用戶您還可以獲得300美元的積分。該公司甚至為研究人員提供幫助,讓他們申請高達50萬美元的免費Google Cloud積分。
最好的事情是Gemma可以免費試用,因為您將能夠在有足夠vRAM和NVIDIA GPU的大多數現代機器上運行它。如果您認為該工具是您需要的,您可以在這裡嘗試一下。
消息來源
|