本地电脑大模型系列之 14 使用 Astro、Ollama 和 Vercel 的 AI 库，实现极其简单的本地首个 AI 聊天机器人

作者：运维做开发 | 2024-08-21 15:09:18

踩

简介

Vercel 制作了一个很棒的 AI 接口库，可以非常轻松地创建与任何 LLM 连接的流式 AI 接口。但我们听说的大多数时候，它都使用 NextJS 和 OpenAI。好吧，管他呢。让我们尝试一下 Astro（一个推广Islands Architecture的轻量级 Web 框架）和Ollama，它们允许您免费在本地运行 AI 模型。听起来不错？让我们试一试吧！

系列文章

《本地电脑搭建 StreamDiffusion：用眼睛见证实时人工智能创意利用交互式高速扩散技术彻底改变图像生成》权重1，本地类
《使用本地 Llama 2 模型和向量数据库建立私有检索增强生成 (RAG) 系统 LangChain》权重1，llama类、本地类
《如何在自己的电脑上构建大语言模型，使用 LangChain（而不是 OpenAI）回答关于您的文档的问题》权重2，本地类
《Llama2 LLM 的力量分析：健康与医学领域的优点、缺点和最佳实践》权重1，医学类、本地类、llama类

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/运维做开发/article/detail/1012315