【AI大模型应用开发】3.2 RAG实战 - RAG应用+UI实现加载本地文件并对话_openwebui rag

作者：知新_RL | 2024-08-06 12:02:31

踩

openwebui rag

前面我们实现了RAG基本流程，今天我们在此基础上给它加个UI界面，在浏览器打开，实现上传本地文件、解析，并用大模型实现与该文档的对话。也就是一个阉割版demo版的ChatPDF或知识库对话系统。

界面采用Python的gradio库，这个库在机器学习和大模型界很火，它运行后会启动一个Web服务器，并在默认浏览器中打开一个新页面，显示Gradio界面。

别问为啥用这个，就是看大模型的界面好多都是这个库搭的，所以也就用一下。不会gradio没关系，就几行代码，很容易理解。或者可以直接用ChatGPT帮你写一个框架。

首先来安装这个库：

pip install 时加上了清华源，因为我这里使用默认源的话会安装超时，失败。

python

复制代码pip install -i https://pypi.tuna.tsinghua.edu.cn/simple gradio 
1
2
3

0. 利用大模型帮你创建UI

使用Python的gradio库来创建一个UI界面，该界面可以上传本地文件。

不会gradio也没关系，我也不会，我们可以让大模型帮你写。

当然大模型生成的代码可能会有错误，告诉大模型运行的错误，让大模型一个个修正即可。

完整的对话过程可看这个链接：chat.openai.com/share/3db8b…

最终生成的代码如下：

python复制代码import gradio as gr

def upload_file(input_file):
    file_contents = input_file  # 上传文件对象
    return f"你上传的文件内容是：\n{file_contents}"

gr.Interface(upload_file, 
              inputs="file",
              outputs="text",
              title="文件上传器", 
              description="请点击按钮上传文件。",
              allow_flagging=False).launch()
1
2
3
4
5
6
7
8
9
10
11
12

运行结果（通过浏览器打开下面链接可看到界面）：

界面如下：点击可弹出对话框让用户选择本地文件，选择后点击Submit按钮会上传文件，上传成功后在右侧output框里会显示文件信息。

在这里插入图片描述

1. 上传文件后的处理

（1）引入前面我们实现的RAG文件和类

（2）实例化一个chat_bot

（3）上传文件时，调用RAG的创建向量数据库接口，创建向量数据库

python复制代码from rag import RAG_Bot ## 引入前面我们实现的rag文件和类

chat_bot = RAG_Bot() ## 实例化一个chat_bot

# 定义一个处理函数，用于接收上传的文件并进行处理
def upload_file(input_file):
    chat_bot.createVectorDB(input_file) ## 创建向量库，灌入数据
    return f"你上传的文件内容是：\n{input_file}"
1
2
3
4
5
6
7
8

2. 添加聊天窗口

其实这里可以另开一个界面，实现聊天窗口，因为聊天和创建向量数据库是独立的。这里为了演示方便，我们在同一个界面上添加一个聊天框。

本人愚笨，用ChatGPT 3.5问了半天，也没有得到正确的代码。于是想了个办法白嫖用了一下 GPT4，好不容易才得到了正确的代码，感觉还不如直接去看gradio的教程来的快。

看下代码：

python复制代码import gradio as gr

def process_inputs(input_file, chat_input):
    outputs = ["", ""]
    if input_file is not None:  # 处理文件上传
        outputs[0] = f"你上传的文件内容是：\n{str(input_file)}"
    if chat_input != "":  # 处理聊天输入
        outputs[1] = f"你说的是：{chat_input}，很高兴与你交流！"
    return tuple(outputs)

# 输入类型为文件上传和文本框
inputs = [gr.File(), gr.Textbox(label="聊天输入")]

# 输出类型为文件内容和聊天输出
outputs = [gr.Textbox(label="文件内容"), gr.Textbox(label="聊天输出")]

iface = gr.Interface(process_inputs, 
                     inputs=inputs,
                     outputs=outputs,
                     title="文件上传和聊天窗口",
                     description="请在适当的输入框中上传文件或进行聊天。",
                     allow_flagging=False)
iface.launch()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

运行效果

在这里插入图片描述

按照前面在这个代码中添加【上传文件后的处理】，然后将用户的输入当作query传入RAG中进行对话。最终代码如下：

python复制代码import gradio as gr
from rag import RAG_Bot ## 引入前面我们实现的rag文件和类

chat_bot = RAG_Bot() ## 实例化一个chat_bot

def process_inputs(input_file, chat_input):
    outputs = ["", ""]
    if input_file is not None:  # 处理文件上传
        chat_bot.createVectorDB(input_file) ## 创建向量库，灌入数据
        outputs[0] = f"你上传的文件内容是：\n{str(input_file)}"
    if chat_input != "":  # 处理聊天输入
        outputs[1] = chat_bot.chat(chat_input) ## 将聊天输入当作query，进行对话
    return tuple(outputs)

# 输入类型为文件上传和文本框
inputs = [gr.File(), gr.Textbox(label="聊天输入")]

# 输出类型为文件内容和聊天输出
outputs = [gr.Textbox(label="文件内容"), gr.Textbox(label="聊天输出")]

iface = gr.Interface(process_inputs, 
                     inputs=inputs,
                     outputs=outputs,
                     title="文件上传和聊天窗口",
                     description="请在适当的输入框中上传文件或进行聊天。",
                     allow_flagging=False)
iface.launch()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27