当前位置:   article > 正文

公众号接入大模型实操

公众号接入大模型

AI的时代,谁先关注,谁先行动,谁就能在未来抢占更多的话语权。笔者尝试将本公众号接入了大模型,您可以按此教程将公众号接入chatgpt,通义千问等,笔者基于对老东家的支持,选择了文心大模型。

先来简单展示一下效果,关注本公众号【程序员是只喵】即可体验

图片

教程

一、准备一台公网服务器

笔者选用了腾讯云服务器(Ubuntu 22.04系统,2核CPU,2G内存),当然配额方面根据实际业务量决定,笔者这个配额也能将应用拉起来。

二、环境准备

– python3 >= 3.7版本 (一定要不低于3.7版本,笔者选的这个系统自带3.10版本的python)

– git

三、进入百度千帆大模型平台,创建应用,开通大模型

最终你要拿到应用的API Key和 Secret Key,后面要用的。

图片

四、 部署聊天机器人

笔者直接采用了chatgpt-on-wechat这个项目,本文后有链接。

在笔者当前环境下的具体的部署步骤:

4.1 拉取代码

git clone https://github.com/zhayujie/chatgpt-on-wechat.git
  • 1

4.2 安装依赖

pip3 install -r requirements.txt
pip3 install -r requirements-optional.txt
pip3 install web.py
pip3 install wechatpy
  • 1
  • 2
  • 3
  • 4

4.3 在根目录下创建config.json文件

4.4 编辑config.json文件配置

以下是笔者的(微信公众平台相关的配置可以先空着,先把服务起来。笔者尝试了多次,微信公众号那边有检测机制,要先把服务起来,服务器配置才能提交通过)

{
"model":"wenxin",  ## model为wenxin选择文心一言模型
"channel_type": "wechatmp",     # 如果通过了微信认证,将"wechatmp"替换为"wechatmp_service",可极大的优化使用体验
"wechatmp_token": "xxxx",       # 微信公众平台的Token
"wechatmp_port": 8080,          # 微信公众平台的端口,需要端口转发到80或443
"wechatmp_app_id": "xxxx",      # 微信公众平台的appID
"wechatmp_app_secret": "xxxx",  # 微信公众平台的appsecret
"wechatmp_aes_key": "",         # 微信公众平台的EncodingAESKey,加密模式要
"single_chat_prefix": [""],     # 推荐设置,任意对话都可以触发回复,不添加前缀
"single_chat_reply_prefix": "", # 推荐设置,回复不设置前缀
"plugin_trigger_prefix": "&",   # 推荐设置,在手机微信客户端中,$%^等符号与中文连在一起时会自动显示一段较大的间隔,用户体验不好。请不要使用管理员指令前缀"#",这会造成未知问题。
"baidu_wenxin_model": "ernie_speed",  ## 笔者开通的是ERNIE-Speed大模型
"baidu_wenxin_api_key": "******************",  ##文心模型的api_key
"baidu_wenxin_secret_key": "*********************"   ##文心模型的secret_key
}
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

4.5 将80端口转发到8080端口(因为公众号只能对接80或者443端口,而应用直接以80端口启动会被腾讯云服务器限制,所以应用以8080端口启动,再通过iptables将80端口的流量转发到8080端口)

sudo iptables -t nat -A PREROUTING -p tcp --dport 80 -j REDIRECT --to-port 8080
  • 1

4.6、启动聊天机器人

python3 app.py
  • 1

图片

五、在公众号后台界面配置服务器

tips:

1、服务器地址填写:http://{公网服务器的公网ip}/wx

2、你配置完成后一定要启用,否则聊天机器人无法触发

3、配置后,你要获得4个参数appID,appsecret,EncodingAESKey,token,后面要用的

图片

六、修正聊天机器人配置,再重启

拿到上述步骤的配置,再修正conf.json的微信公众号相关参数,再以后台的方式重启,至于是systemd或者图方便直接nohup看读者自己喽。

七、验证。公众号对话,简单看看后台日志

图片

后文:

本文演示了将大模型融入公众号,读者也可以触类旁通将chatgpt这些能力融入小程序,或者改造自己的产品,亦或是搭建自己的聊天机器人,用它来写作,画图等。

有位大佬的话笔者觉得很对,“AI的时代,要先做产品,再做模型”。我们要从自己摸得着的开始,躬身入局,迎接这个AI的时代,发现新的机会。

本公众号二维码

fbb457fd06c96ccbb8bde9d90e86683.jpg

相关链接:


聊天机器人项目地址:

https://github.com/zhayujie/chatgpt-on-wechat

聊天机器人微信公众号channel说明:

https://github.com/zhayujie/chatgpt-on-wechat/tree/master/channel/wechatmp****

百度千帆大模型平台:

https://console.bce.baidu.com/qianfan/ais/console/applicationConsole/application

腾讯云地址:  

https://console.cloud.tencent.com/lighthouse/instance
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/AllinToyou/article/detail/226152
推荐阅读
相关标签
  

闽ICP备14008679号