当前位置:   article > 正文

大模型快速部署,以浪潮源2.0为例

大模型快速部署,以浪潮源2.0为例

step1: 申请PAI-DSW试用

在这里插入图片描述

step2:魔塔社区授权

在这里插入图片描述

在这里插入图片描述

由于本地授权一直失败,于是采用了魔塔免费平台实例进行学习。

搭建好之后,打开就有相关页面了:

在这里插入图片描述

demo搭建:

按照官方提示的步骤进行搭建,内容如下:

输入命令

文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git
  • 1
  • 2

在这里插入图片描述

环境安装

pip install streamlit==1.24.0
  • 1

在这里插入图片描述

启动demo

streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006
  • 1

在这里插入图片描述

然后点击链接,先加载一段时间的模型,然后就开始尝试对话

在这里插入图片描述

尝试对话的结果如下:

在这里插入图片描述

在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/煮酒与君饮/article/detail/960925
推荐阅读
相关标签
  

闽ICP备14008679号