教你如何跑 LLama3 模型_跑llama3 70b 4080

LLama 3 模型已经开源了，感觉有一大波 Chinese -LLama 3 正在赶来的路上。如果你也想基于 LLama 3 训练一个自己的模型，那这篇教程就教你怎么来做。

在本文中，我们将介绍LLama 3，这是下一代最先进的开源大型语言模型。我们将了解LLama 3相对于LLama 2的进步。然后，我们将利用 Paperspace GPU 云的能力来深入探索，并尝试上手这个模型。因为 Paperspace 上有包括 H100、A100 等一系列 GPU 资源可以使用。

简单聊聊 LLama3

这里给还未了解 LLama 3 的开发者们，简要地介绍一下它。如果你已经是 AI 圈的老手，那么可以跳过这个章节。

Meta 最近宣布了LLama 3，这是下一代最先进的开源大型语言模型。

LLama 3 现在拥有 8B（80亿）和 70B（700亿）参数的语言模型。该模型已在各种任务中都有不俗的表现，并提供更好的推理能力。该模型已经开源，可供商业使用，并且开发者们可以在 AI 应用、开发者工具等方面进行创新。

LLama 3 有四个版本的大型语言模型（LLM）。这些模型有两种参数规模：8B 和 70B 参数，每种都有基础（预训练）和 instruct-tuned 版本。它们可以在不同类型的消费级硬件上平稳运行，并支持 8K（8000）token 的上下文长度。

• Meta-Llama-3-8b：基础 8B 模型

• Meta-Llama-3-8b-instruct：基于 8B 模型的 instruct-tuned 版本

• Meta-Llama-3-70b：基础 70B 模型

• Meta-Llama-3-70b-instruct：基于 70B 模型的 instruct-tuned 版本