一行命令运行 Google 的开源模型 Gemma_gemma运行

作者：盐析白兔 | 2024-04-04 10:04:39

踩

gemma运行

一行命令运行 Google 的开源模型 Gemma

0. 引言
1. 本地部署 Gemma
2. 简单验证

0. 引言

Gemma 是 Google 推出的一系列轻量级、最先进的开放式模型，采用与创建 Gemini 模型相同的研究和技术构建。它们是文本到文本、仅解码器的大型语言模型，提供英文版本，具有开放权重、预训练变体和指令优化变体。Gemma 模型非常适合各种文本生成任务，包括问答、总结和推理。它们相对较小的尺寸使其可以部署在资源有限的环境中，例如笔记本电脑、台式机或您自己的云基础设施，从而实现对最先进 AI 模型的访问民主化，并帮助促进每个人的创新。

下面是blog.google给出的评分，从评分上来看，Gemma 7B模型在各方面都超越了Llama-2的7B和13B。
图片来源:https://blog.google/technology/developers/gemma-open-models/

1. 本地部署 Gemma

通过使用 ollama，我们可以在本地一行命令启动 Gemma。

ollama run gemma:7b-instruct-fp16
1

2. 简单验证

问1个问题试试，

请用中文回答，如何才能考上清华大学？
1

在这里插入图片描述

完结！

声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：【wpsshop博客】