关于如何使用Agent进行生成式AI应用开发_ai agent 工作流 研发代码快速生成

3.1 引言

随着人工智能技术的飞速发展，大语言模型（LLM)、检索增强技术（RAG)和智能体（Agent)已经成为推动该领域进步的关键技术。正确理解这三者的概念及其之间的关系是面向GenAI开发的基础。下图是2024年国内的AIGC产业链企业的总结。

3.2 LLM、RAG和Agent之间的对比

|
| 大语言模型(LLM) | 检索增强生成（RAG) | 智能体（Agent) |
| — | — | — | — |
| 定义 | 大型语言模型（LLM），如GPT系列、BERT等，是利用大量文本数据训练的模型，能够生成连贯的文本、理解语言、回答问题等。 | 检索增强生成技术结合了传统的信息检索技术和最新的生成式模型。它先从一个大型的知识库中检索出与查询最相关的信息，然后基于这些信息生成回答。 | 智能体是指具有一定智能的程序或设备，能够感知环境并根据感知结果做出响应或决策的实体。它们可以是简单的软件程序或复杂的机器人。 |
| 作用 | LLM作为基础技术，提供了强大的语言理解和生成能力，是构建复杂人工智能系统的基石。 | RAG可以视为在LLM基础上的扩展或应用，利用LLM的生成能力和外部知识库的丰富信息来提供更准确、信息丰富的输出。 | 智能体可以利用LLM进行自然语言处理，通过RAG技术获得和利用知识，以在更广泛的环境中做出决策和执行任务。它们通常位于应用层级，是对LLM和RAG技术在特定环境下的集成和应用。 |

因此，可以理解为LLM是基础，RAG是在LLM基础上的进一步应用，而智能体则是综合运用LLM和RAG以及其他技术，在更复杂环境中进行交互和任务执行的实体。这种关系体现了从基础技术到应用技术再到实际应用的逐级深入。

3.3 LLM Agent架构

由于大语言模型（LLM)在处理复杂问题时特别是需要多步骤的复杂问题处理时面临的困难，因此业界提出了一些针对性的prompt解决方案，例如Chain-Of-Thought,CoT) [1]、Tree of Thoughts,ToT[2]等。

在现实世界的场景中，决策通常需要经过一系列步骤进行处理，包括观察、推理和行动。这是一个迭代的过程，直到获得最终结果。这一过程启发了现代LLM Agent的设计，这些代理通常遵循“观察-推理-行动-重复”模型，反映了人类问题解决方法。可以参考文章 ReAct: Synergizing Reasoning and Acting in Language Models[3]。

在Lilian Weng在2023年的LLM Powered Autonomous Agents[4]里给出了LLM Agent的架构，核心模块包含Planning、Memory、Tool use。

一个典型的LLM Agent的工作场景演示示意图：例如，Python REPL用于解决分析任务，若需获取最新信息，则应进行网络搜索；而当用户要求创建图像时，则可使用Dall-E3。

3.4 LLM Agent开发框架

目前，很多公司都推出了帮助开发者实现LLM Agent的开发助手，例如OpenAI’s Assistants API[5]、Langchain’s agent[6]结合Langgraph[7]；Dify.ai[8]、Coze[9]等也推出了自己的Agent开发框架。

本文主要基于AWS Bedrock Agent[10] 来进行生成式AI应用开发实验演示。

3.5 AWS Bedrock Agent介绍

AWS Bedrock Agent[11]使生成式AI应用程序能够在不同系统和数据源之间执行多步骤任务。Agent利用基础模型的推理能力将用户请求分解为逻辑序列，确定所需信息，并决策调用哪些API以及执行顺序。Bedrock Agent可以通过AWS CLI、控制台或者API进行创建。Bedrock Agent包含如下模块[12]:

• 基础模型（Foundation model，FM) : 基础模型理解用户请求，将复杂任务分解为多个步骤，并通过对话收集额外信息以采取行动完成请求。

• 说明（Instructions）: 编写说明来描述代理的设计用途。借助高级提示，用户可以在编排的每个步骤中为代理进一步自定义指令，并包含用于解析每个步骤输出的 Lambda 函数。

• 以下至少一项：

  - Action Groups(操作组）：用户可以提供以下资源来定义Agent为用户执行

  的操作：OpenAPI schema或者 function deatil schema；Lambda函数（调用Agent)

  - 知识库(Knowledge bases) : 将知识库与Agent进行关联，以便Agent能够查询知识库获取额外的上下文信息，从而提升Agent生成的回答质量

• 提示模版(Prompt templates): 提示模板是创建要提供给 FM 的提示的基础，AWS Bedrock agent公开了预处理、编排、知识库响应生成和后处理期间使用的默认四个基本提示模板。用户可以选择编辑这些基本提示模板，以自定义代理在其序列的每个步骤中的行为。详情参考Advanced prompts in Amazon Bedrock[13]

典型的AWS Bedrock agent编排流程如下图所示

3.6 实践示范

1. 实践一: 基于AWS Bedrock 构建企业产品知识问答助理agent

主要流程如下：

• 创建AWS Bedrock agent

• 创建知识库(Knowledge bases)

• 创建操作组(Action Groups) : AWS Lambda函数(含权限控制）以及OpenAPI Schemas[14]

• 测试Agent，测试过程中可以使用AWS Bedrock Trace events[15]进行调试

• Agent更新部署(使用agent version和agent alias)，参考Deploy an agent[16]

参考代码仓库[17]

2. 实践二：基于AWS Bedrock自建生成式AI平台（复杂应用）

主要流程如下：

• 用户在浏览器客户端发起访问请求，经过AWS CloudFront缓存并回源AWS S3获取网站静态资源

• 用户在网页端登录，通过SDK请求AWS Cognito获取登录认证授权 JWT token信息

• 用户登录后需要在前端页面根据业务需要请求相关功能时，首先调用Lambda Function Url进行相关请求的签名，携带JWT Token信息验证用户权限并获得签名后的请求header信息

• 根据业务需要，使用签名后的header请求相关服务的AWS Lambda Function URL（Model对话、Agent对话、翻译、知识库等）

• AWS Lambda Function 根据需要使用Bedrock SDK请求Bedrock的相关功能

• 请求结果上下文记录到AWS DynamoDB的Table中

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】