当前位置:   article > 正文

测试:ollama加载羊驼版本llama-3中文大模型_ollama回复慢

ollama回复慢

找了一个晚上各种模型,像极了当初找各种操作系统的镜像,雨林木风,深蓝、老毛桃……

主要是官方的默认7B版本回答好多英文,而且回复的很慢,所以我是在ollama上搜索"chinese"找到了这个羊驼版本的,

ollama run lgkt/llama3-chinese-alpaca

等大概10分钟左右;

反应的速度还挺快的。

但是测试下来不尽人意啊:

资源地址:

https://ollama.com/lgkt/llama3-chinese-alpacaGet up and running with large language models.icon-default.png?t=N7T8https://ollama.com/lgkt/llama3-chinese-alpacaGitHub - ymcui/Chinese-LLaMA-Alpaca-3: 中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3 - ymcui/Chinese-LLaMA-Alpaca-3icon-default.png?t=N7T8https://github.com/ymcui/Chinese-LLaMA-Alpaca-3/tree/main

本文内容由网友自发贡献,转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/976305
推荐阅读
相关标签
  

闽ICP备14008679号