【GPT】如何拥有离线版本的GPT以及部署过程中的问题_离线部署gpt3

【背景】

目前很多公司由于数据安全的问题，不能使用OpenAI的GPT，同时也没有必要非得使用如此泛用化的GPT。很多公司因此有训练自己的离线GPT的需求，这样的GPT只需要具备专业知识即可。
要使这个成为可能，首先就需要能够让GPT的Model在本地运行。

【工具】

GPT4ALL就是这样一个应运而生的工具。
官网地址：https://gpt4all.io/index.html
如果官网速度慢，可以下我存的百度：
链接：https://pan.baidu.com/s/1QodbiPxnK0RSYDcDc65sPg?pwd=dff3
提取码：dff3
–来自百度网盘超级会员V7的分享

【部署方法】

1. 第一种部署方法最简单，在官网首页下载对应平台的可执行文件，直接运行即可。这种方式的优点在于方便，配有UI，UI集成了包括Model下载，训练等在内的所有功能。缺点是这种方法只能本机使用GPT功能，个人培训个人的GPT，学习和实验的成分多一些，如果要拿这个能力做局域网应用，还是需要别的部署方式。
2. 第二种推荐的部署方式就是Python部署。这里有几个注意点，如果你用的Anaconda+Pycharm，注意保证GPT相应的编译器环境是3.8以上的，不然install package会报错。且Anaconda需要是64位。我一开始64位OS装了32bitAnaconda也会