赞
踩
接上文:从零开始部署ubuntu+Anaconda3+langchain-chatchat+chatglm3-6b大模型,本地知识库
Langchain-chatchat 0.2.10 推荐使用python3.11.7,通过下面命令进行python环境创建。
conda create --name langchain python==3.11.7 -y #创建一个名字为langchain的python3.11.7虚拟环境
如下图
安装完毕后,通过以下命令激活python虚拟环境
conda activate langchain
如下图,shell命令行前面会出现(langchain)这个虚拟环境名。
转到langchain chatchat目录下,安装langchain的一些pip依赖
- cd /data/webui/langchainchatchat
- pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
-i https://mirrors.aliyun.com/pypi/simple/ 为使用阿里云的pip源,安装过程类似下图:
等待安装完成,pytorch之类比较大,下载过程会比较长。安装完成如下图:
安装完成后,进入python命令行,使用如下命令检查torch,cuda。
- python
- import torch
- torch.__version__
- torch.cuda.is_available()
运行结果类似如下图(版本号可能有所不同):
如果发现不是cu版本呢,可能是因为nvidia显卡的驱动以及cuda版本没有安装正确,解决方案是去官方下载对应显卡的驱动,nvidia-tool kit, cuda,python等(我会单独写一篇文章)。
langchain-chatchat的基础运行环境安装完毕。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。