大模型快速部署，以浪潮源2.0为例

作者：煮酒与君饮 | 2024-08-10 23:14:14

踩

大模型快速部署，以浪潮源2.0为例

step1: 申请PAI-DSW试用

在这里插入图片描述

step2：魔塔社区授权

在这里插入图片描述

由于本地授权一直失败，于是采用了魔塔免费平台实例进行学习。

搭建好之后，打开就有相关页面了：

在这里插入图片描述

demo搭建：

按照官方提示的步骤进行搭建，内容如下：

输入命令

文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git
1
2

在这里插入图片描述

环境安装

pip install streamlit==1.24.0
1

在这里插入图片描述

启动demo

streamlit run AICamp_yuan_baseline/Task\ 1：零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006
1

在这里插入图片描述

然后点击链接，先加载一段时间的模型，然后就开始尝试对话

在这里插入图片描述

尝试对话的结果如下：

在这里插入图片描述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/煮酒与君饮/article/detail/960925