企业级ChatGPT开发的三大核心内幕及案例实战（一）_企友通gpt

企业级ChatGPT开发的三大核心内幕及案例实战
2.1 ChatGPT语音聊天机器人案例回顾
Gavin老师：NLP_Matrix_Space
本节主要跟大家谈企业级以大模型驱动应用的三大核心，我们会通过一个具体的案例看一下它的源码，包括案例本身的源码以及框架的源码。上一章跟大家分享了一个端到端的语音聊天机器人，基于大模型的开发分成三层：前端、后端、模型。
第一层是前端，可能是一个UI界面，用户可能在网络、移动设备、或者其他物联网设备上进行使用。我们做大模型开发，更经典的一种展现方式是把大模型驱动的系统做成一个插件（Plugins），其他的企业或者实体可以集成我们的插件，这对于大模型时代的开发是非常重要的，因为现在业界逐渐有一个趋势或者共识，所有的应用程序背后都值得用大模型驱动重新开发一遍，重新开发肯定是想使用大模型的一些优势，大模型的优势在于它的推理能力。如果使用插件封装基于大模型的应用或者系统，可以把你的服务提供给所有的机构，例如一些教育培训机构，它已经有业务市场，而且有很好的客户，不是直接做一个基于大模型驱动的教育产品，而是做一个插件，给一些上市公司或者一些学校机构使用。
第二层是后端，聊天机器人后端的开发，很多时候是一个服务（server）加上一个框架（framework）的方式，如果你已经有Python的开发基础，做全栈开发或者后端开发，应该对这个内容很清楚，后端的服务一直运行监听事件，然后基于事件作出响应。框架（framework）会提供一些工具，提供一些API接口以及与环境交互，提供很多增强的功能，工具一般封装了第三方的API或者第三方数据访问的能力