热门标签
热门文章
- 1Flink学习教程_flink1.17 中文文档
- 22024国内主流AI 大模型架构及应用场景深度分析_商汤 腾讯 华为
- 3nsd-kdd数据预处理python代码
- 4K近邻算法——手写数字识别_k近邻算法实现手写数字识别
- 5Ansys Rocky在电池制造行业应用
- 6神经网络参数更新公式推导（一）——单隐层网络_神经网络权重更新公式
- 7Android开源框架（整理）_android原生开发框架
- 8camera驱动_camera driver属于vendor还是system
- 9【Arduino与mpu6050握手】_mpu6050识别手势
- 10Llama 3.1 模型：从部署到微调的全方位应用手册_lama3.1
当前位置: article > 正文
大模型基本知识
作者：Li_阴宅 | 2024-08-20 01:15:17
赞
踩
大模型基本知识
1. 大模型资源站
- github：https://github.com/
- 魔塔：modelscpace.cn
2. 大模型架构
- 公共底座：transformer
- Encoder-Decoder架构：
- T5 - NLG
- ChatLM - NLG
- Encoder-Only架构：
- BERT：NLU
- GLM：
- 论文：https://arxiv.org/pdf/2103.10360
- 模型：https://modelscope.cn/models/ZhipuAI/chatglm3-6b/summary
- 中国唯一一家具有 OpenAI 气质的公司
- 天才般的设计
- ChatGLM3 6b
- Decoder-Only架构：
3. 模型预训练、微调
- 模型预训练：
- 各大模型都会提供自身的预训练代码和微调数据格式和代码
- 公共预训练微调框架：
- llama-factory
4. 高性能部署
- vLLM
- OpenAI API
- LMStudio 高性能推理
- llama.cpp
5. 工程落地
- LangChain
- RAG（检索增强生成）
- Agent（智能体）
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Li_阴宅/article/detail/1004461
推荐阅读
相关标签
