当AI遇上知识图谱：GraphRAG学习笔记_graph rag

由于最近正在做知识图谱相关代码研究，因此，对GraphRAG进行了一定的系统学习，今天就想查阅学习的资料，总结整理成笔记，记录下来，同时，也方便大家学习。近期可能就会有这方面的探索出来，可以期待一下！

RAG技术简介

RAG，即Retrieval Augmented Generation（检索增强生成），是一种能够准确理解用户查询、获取相关信息并将其融入回答的技术。它不仅成本效益高，而且在提供领域特定上下文、反映最新信息以及追踪信息来源的透明度和可解释性方面表现出色。

RAG的工作流程

RAG的工作流程包括四个阶段：预检索、分块、检索和后检索。每个阶段都至关重要，它们共同确保了AI能够提供准确、相关的回答。

1. 预检索：确定搜索数据的粒度，平衡提供详细信息与避免数据过载的风险。

2. 分块：合理处理输入数据，以适应大型语言模型的令牌限制。

3. 检索：在文档或文本段数据库中搜索与用户查询相关的内容。

4. 后检索：将检索到的信息有效整合到生成过程中，可能包括摘要、选择最相关的事实等。

RAG的局限性

尽管RAG在多个方面表现出色，但它也有一些局限性，比如索引问题、信息提供不当以及输入与检索过程的不匹配等。

什么是知识图谱

知识图谱是一种结构化的语义知识库，它通过图的形式存储和表示实体（如人、地点、组织等）以及实体之间的关系（如人物之间的关系、地点的地理位置关系等）。知识图谱在信息检索、数据挖掘、自然语言处理、智能问答等领域有着广泛的应用。

知识图谱的构成

1. 实体（Entities）：知识图谱中的基本元素，代表现实世界中的一个独立对象。

2. 关系（Relations）：实体之间的联系，定义了实体之间的语义关系，如“属于”、“位于”、“创立者”等。

3. 属性（Attributes）：实体的特征或描述，如一个人的姓名、年龄、职业等。

4. 类型（Types）：对实体进行分类，如将实体分为人、地点、组织等类型。

知识图谱的构建

1. 数据收集：从各种数据源收集结构化或非结构化数据。

2. 知识抽取：从收集的数据中识别出实体、关系和属性。

3. 知识表示：将抽取出的知识以图的形式表示出来，通常使用RDF（Resource Description Framework）或图数据库。

4. 知识融合：解决实体消岐问题，合并指代同一实体的不同表述。

5. 知识推理：利用逻辑规则和推理算法发现新的知识关系。

6. 知识更新：随着时间的推移，对知识图谱进行维护和更新。

GraphRAG：RAG的进阶版

GraphRAG通过结合知识图谱的检索和推理，解决了RAG的一些局限性。它利用知识图谱索引来获取相关文档，并在后检索阶段使用语义搜索值和相似性搜索值来提高信息的准确性。

GraphRAG的工作模块

GraphRAG包括四个执行模块：查询重写、预检索、后检索以及语义搜索和相似性搜索。

1. 查询重写：在用户查询的基础上添加有用的上下文，以澄清用户的意图。

2. 预检索与后检索：考虑检索什么信息以及如何处理检索到的信息。后检索阶段的挑战在于如何有效地整合数据，包括重新排名和提示压缩。

GraphRAG的关键组件

1. 知识图谱：作为GraphRAG的基础，知识图谱包含了大量的实体和它们之间的关系。

2. 检索模型：用于从知识图谱中检索与用户查询相关的信息。

3. 生成模型：通常是一个预训练的大型语言模型，用于生成基于检索到的信息的文本。

4. 嵌入模型：将知识图谱中的实体和关系转换为向量空间中的点，以便于计算和比较。

5. 推理引擎：执行复杂的查询和推理任务，如路径推理和模式匹配。

GraphRAG的工作流程

1. 查询理解：GraphRAG首先需要理解用户的查询意图。

2. 知识检索：根据理解的意图，从知识图谱中检索相关的实体和关系。

3. 信息融合：将检索到的结构化信息与用户的原始查询结合起来。

4. 生成回答：利用融合后的信息，通过生成模型产生回答。

5. 后处理：对生成的回答进行优化和校正，以提高准确性和可读性。

GraphRAG的应用场景

1. 复杂查询回答：对于需要多步逻辑推理的复杂查询，GraphRAG可以提供更好的回答。

2. 个性化推荐：利用用户的历史行为和偏好，结合知识图谱中的信息进行个性化推荐。

3. 自动文摘：从大量文本中自动抽取关键信息，生成摘要。

4. 对话系统：在对话系统中提供更准确和信息量更大的回复。

5. 数据整合：帮助整合来自不同来源的异构数据。

使用GraphRAG的考虑因素

为了有效存储和管理图形数据，需要专门的软件，如GDBMS（图形数据库管理系统）。此外，还需要自然语言处理模型来生成图形查询，以及用于嵌入图形数据的模型。

GraphRAG的局限性

GraphRAG在形成图形、生成查询以及决定检索多少信息方面也有其局限性。主要挑战包括查询生成、推理边界和信息提取。

何时使用GraphRAG

GraphRAG并非万能的解决方案。如果传统的RAG表现良好，就没有必要使用GraphRAG。只有在RAG性能提升不明显时，才考虑引入GraphRAG。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】