当前位置:   article > 正文

本地私有化部署Ai大模型,接入网页应用,公司员工都能用,pdf和word一次性解读_kimi本地化部署

kimi本地化部署

上节课我们讲到如果要像Kimi一样处理长文本,那么一次查询几万字的费用是非常高的,目前云端ai的模型都是按字数收费的,1000个字最低也要0.01元。一次处理几万字,成本在3毛左右了,如果企业内部人员多,那么这个成本将是相当的大。

那我们今天介绍企业自己搭建Ai大模型,分享给员工使用,可以给员工设置账号和密码,并且后台可以查询员工的使用记录。

我们采用的是快充Ai集成软件+LM Studio软件。

安装LM Studio的方法非常的简单。打开下面的网址,选择对应的版本即可,无需任何代码。

https://lmstudio.ai/

搭建完成之后,我们启动local server 开发端口

默认情况下端口是1234,这个时候将本地的ip地址+端口号 保存到快充Ai软件后台即可。

✨【私享智能,加速企业效率】

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/秋刀鱼在做梦/article/detail/795624
推荐阅读
相关标签