使用LLaMA-Factory微调ChatGLM3_llama factory教程

1、创建虚拟环境

略

2、部署LLaMA-Factory

（1）下载LLaMA-Factory

https://github.com/hiyouga/LLaMA-Factory

（2）安装依赖

pip3 install -r requirements.txt
1

（3）启动LLaMA-Factory的web页面

CUDA_VISIBLE_DEVICES=0 python src/train_web.py
1

得到如下页面：

3、ChatGLM3模型微调

设置如下参数，点击开始即可：

点击“预览命令”，可以看到要执行的python脚本，如下所示：

CUDA_VISIBLE_DEVICES=0 python src/train_bash.py \
    --stage sft \
    --do_train \
    --model_name_or_path /root/LLaMA-Factory-main/chatglm3\
    --dataset alpaca_gpt4_zh \
    
1
2
3
4
5