谷歌Gemma 大模型 部署搭建本地

本文涉及的产品
Serverless 应用引擎 SAE,800核*时 1600GiB*时
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 谷歌 Gemma 是一个基于 Python 的图像分析工具,提供快速和准确的物体检测、定位、分类和风格迁移功能。它使用 TensorFlow Lite 模型,使它可以快速运行在移动设备上。

————前言————

谷歌 Gemma 是一个基于 Python 的图像分析工具,提供快速和准确的物体检测、定位、分类和风格迁移功能。它使用 TensorFlow Lite 模型,使它可以快速运行在移动设备上。


主要功能

物体检测:Gemma 可以识别图像中的物体,并标出其位置和类别。 物体定位:Gemma 可以定位图像中的物体,并提供其精确位置。 图像分类:Gemma 可以对图像进行分类,根据图像的内容分类。 风格迁移:Gemma 可以将一种图像的风格转移到另一种图像。

特点

速度快速:Gemma 使用 TensorFlow Lite 模型,可以快速运行在移动设备上。

准确性:Gemma 使用预训练的模型,可以实现准确的物体检测和分类。

易用性:Gemma 是一个开源工具,易于使用。

还包:Gemma 包含许多功能,例如图像加载、预处理、后处理和可视化。


谷歌Gemma是一系列轻量级、最先进的开放模型,由Google AI构建并开源。Gemma模型旨在为各种自然语言处理任务提供卓越的性能,同时保持较低的资源需求和部署灵活性。


Gemma模型家族包括以下成员:


Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。

Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。

Gemma模型可以用于以下任务:


文本生成:可以生成各种格式的文本,如诗歌、代码、剧本、音乐作品、电子邮件、信件等。

文本翻译:可以将文本翻译成多种语言。

文本摘要:可以自动生成文本的摘要。

问答:可以回答有关文本内容的各种问题。

文本分类:可以将文本归类到不同的类别中。

Gemma模型可以通过以下方式使用:


在本地计算机上使用:可以下载Gemma模型的代码和权重,并在本地计算机上运行。

在Google Cloud上使用:可以通过Google Cloud Vertex AI平台使用Gemma模型。

在Kaggle上使用:可以通过Kaggle平台免费使用Gemma模型。


来自Gemma官网:


Gemma 模型与 Gemini 共享技术和基础设施组件,Gemini 是我们当今广泛使用的最大、功能最强大的 AI 模型。与其他开放式型号相比,这使得 Gemma 2B 和 7B 能够在其尺寸范围内实现同类最佳的性能。 Gemma 模型能够直接在开发人员笔记本电脑或台式计算机上运行。值得注意的是,Gemma 在关键基准上超越了更大的模型,同时遵守我们关于安全和负责任的输出的严格标准。有关性能、数据集组成和建模方法的详细信息,请参阅技术报告。


具体部署过程

接下来详细讲解如何将它部署到本地电脑上边

下载安装ollama 客户端: 【点击下载

官网LOGO


进入之后选择对应的系统下载即可


一直下一步默认安装即可(路径尽量不要去动)


安装完成之后



选择模型

如果你是第一次部署,它会自动下载!

大家根据电脑性能来选择对应的(当然内存越大 语言模型就会越强)

  • Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。
  • Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。


[ 1 ]. 7B的全量版本:(需要16G左右的显存)

ollama run gemma:7b-instruct-fp16

[ 2 ]. 普通7B版 安装指令:(适合8G显存)

ollama run gemma:7b

[ 3 ].2B轻量版:(适合CPU会低配电脑安装)

ollama run gemma:2b



复制命令输入等待自动下载完成即可



测试

等待安装完成之后


我们让它自我介绍一下


>>介绍一下自己

我是一个大型语言模型,由Google开发。

**我的功能包括:**

*理解自然语言

生成自然语言

翻译语言

回答问题

自动摘要

聊天机器人

**我如何工作:**

我从大型文本数据库中检索并处理人类对话。

2.

我使用神经网络学习如何从输入文本中推断输出文本。

3.

我可以根据我的训练数据生成新的文本,翻译语言,或回答问题。

**我有哪些优势:**

**无答案能力:**我无法独立思考或做出决定。

**可扩展性:**我可以在任何设备上运行。

**实时性:**我可以在实时回答问题。

**准确性:**我经过严格的训练,以确保准确性。

*我有哪些限制:**

**有限的理解能力:**我可能无法理解或解释所有语言或文化。

**道德和伦理问题:**我无法提供情感支持或提供不当的信息。

**缺乏批判性思维能力:**我无法进行批判性思维或独立思考。

*我如何与您互动:**

您可以通过通过聊天机器人或搜索引擎搜索我,以了解我更多信息。我也可以用任何支持自然语言的应用程序或工具进行交互。



>>请你介绍一下Linux

好的,我很乐意向您介绍Linux。Liux是一个开源的操作系统,它被广泛用于各种设备上,包括笔记本电脑、服务器、移动设备等

Linux的优势包括:

**自由开源:*Liu×是一个自由软件,这意味着它可以免费使用和修改。

***可扩展性:**Linux可扩展到任何需要。

***安全性:*Linux系统非常安全,

因为它提供了强大的安全机制。

***性能:**Linux系统性能非常出色。

***多平台:**Linux可以运行在各种设备上。

此外,Linuxi还有一些特定的功能,例如:

***命令行界面:**您可以使用命令行界面进行交互操作。

**支持多种编程语言:*您可以使用多种编程语言编写代码。

***支持多种应用程序:**您可以找到许多免费和开源的应用程序。

如果您想了解更多关于Liux的信息,您可以访问以下网站:

***Linux.org:*Linux官方网站

**Linux Foundation:*Linux fundacion

**Canonical:**Canonical服务器公司

我期待着为您提供更多信息。



注意事项

当你退出重新进入之后会出现这样的问题



你必须输入对应的模型型号 进入内部命令解释器才可以提问





相关文章
|
10月前
|
人工智能 Linux API
LangChain开发环境准备-AI大模型私有部署的技术指南
今天开始小智将开启系列AI应用开发课程,主要基于LangChain框架基于实战项目手把手教大家如何将AI这一新时代的基础设施应用到自己开发应用中来。欢迎大家持续关注
712 0
|
16天前
|
域名解析 弹性计算 开发者
期待已久,重磅回归,阿里云推出全新《高效构建企业门户网站方案》,你想了解的,这一篇就足够了。
期待已久,重磅回归,《高效构建企业门户网站方案》,你想了解的,这一篇就足够了。
24362 1
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
LLM的测试工具:LaVague平替成国内大模型
LaVague是一款使用LLM将自然语言转换为Selenium代码以实现自动化测试的工具。由于huggingface的某些模型需付费且访问不便,本文介绍了如何使用智谱的免费大模型作为替代。智谱提供免费的embedding模型和大量令牌。
184 1
|
2月前
|
人工智能 安全 开发者
谷歌最新的开源大模型Gemma
【2月更文挑战第11天】谷歌最新的开源大模型Gemma
80 1
谷歌最新的开源大模型Gemma
|
7月前
|
机器学习/深度学习 SQL 分布式计算
Azure 机器学习 - Azure机器学习产品和技术介绍全览
Azure 机器学习 - Azure机器学习产品和技术介绍全览
62 0
|
12月前
|
机器学习/深度学习 存储 人工智能
2023年发布的25个开源大型语言模型总结
大型语言模型(llm)是一种人工智能(AI),在大量文本和代码数据集上进行训练。它们可以用于各种任务,包括生成文本、翻译语言和编写不同类型的创意内容。
990 0
|
机器学习/深度学习 人工智能 编解码
如何在亚马逊 SageMaker 进行 Stable Diffusion 模型在线服务部署
近一年来,AI绘画领域迅猛发展,国内外科技巨头和初创企业争相涌入,出现了不少文本生成图像的技术产品。这些产品背后主要使用基于扩散生成算法的 dall-e-2 和 stable diffusion 等模型。与 Stable Diffusion 上一个版本相比,Stable Diffusion 2.0 取得了更加优异的图像生成效果,具体表现如下:
574 10
如何在亚马逊 SageMaker 进行 Stable Diffusion 模型在线服务部署
|
数据采集 机器学习/深度学习 人工智能
用ChatGPT训练羊驼:「白泽」开源,轻松构建专属模型,可在线试玩
用ChatGPT训练羊驼:「白泽」开源,轻松构建专属模型,可在线试玩
450 0
|
人工智能 自然语言处理 开发工具
免费部署一个开源大模型 MOSS
近日复旦大学自然语言处理实验室邱锡鹏教授团队研发的大语言模型 MOSS 也已公开发布并开源。MOSS 的公开发布无疑加剧了国内 ChatGPT 式产品的竞争。
1494 1
|
人工智能 自然语言处理 算法
即插即用、无需训练:剑桥大学、腾讯AI Lab等提出免训练跨模态文本生成框架
即插即用、无需训练:剑桥大学、腾讯AI Lab等提出免训练跨模态文本生成框架
202 0