【大模型】基于 LlaMA2 的高 star 的 GitHub 开源项目汇总_llama2 github

Llama2 简介

2023年7月19日：Meta 发布开源可商用模型 Llama2。

Llama2 是一个预训练和微调的生成文本模型的集合，其规模从70亿到700亿个参数不等。

LLaMA2 的详细介绍可以参考这篇文章：【大模型】更强的 LLaMA2 来了，开源可商用、与 ChatGPT 齐平

下面介绍几个高 star 的 GitHub 开源项目：

star 数量截止日期2023年8月23日

开源项目汇总

NO1. FlagAlpha/Llama2-Chinese

• star：4.2K

• GitHub地址：
  https://github.com/FlagAlpha/Llama2-Chinese

• 介绍：
  Llama中文社区，最好的中文Llama大模型，完全开源可商用。

• 良好的社区
  

• 开放且不断增加的数据
  

• 开源可下载可商用的模型
  我们基于中文指令数据集对Llama2-Chat模型进行了微调，使得Llama2模型有着更强的中文对话能力。LoRA参数以及与基础模型合并的参数均已上传至Hugging Face https://huggingface.co/FlagAlpha，目前包含7B和13B的模型。

• 详细的模型微调过程
  
• 其他
  包括：模型量化、推理假设、模型评测、集成LangChain框架等

NO2. hiyouga/LLaMA-Efficient-Tuning

• star：3.2K

• GitHub地址：
  https://github.com/hiyouga/LLaMA-Efficient-Tuning

• 介绍：
  Easy-to-use LLM fine-tuning framework (LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, ChatGLM2)

• 开放且不断增加的数据
  

• 开源可下载可商用的模型，且支持很多开源模型
  

• 支持多种模型训练、微调方法
  
  支持单卡训练、分布式多级多卡并行训练，脚本很详细，建议看作者的GitHub。

NO3. yangjianxin1/Firefly

• star：2.1K

• GitHub地址：
  https://github.com/yangjianxin1/Firefly

• 介绍：
  Firefly(流萤): 中文对话式大语言模型(全量微调+QLoRA)，支持微调Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya、Bloom等大模型

• 本项目主要内容如下：

  声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/article/detail/52582?site