热门标签
热门文章
- 1网络安全事件研判_安全告警研判
- 2【大数据技术Hadoop+Spark】HBase分布式数据库架构、特点、数据存储方式、寻址机制详解（图文解释）_hbase数仓架构图
- 3AIGC前沿 | LivePortrait
- 4【通信协议-RTCM】MSM语句(2) - RINEX&MSM7语句总结（重要！自动化开发计算卫星状态常用）
- 5求职者：“我有五年测试经验”面试官： “不，你只是把一年的工作经验用了五年”_面试官问你有没有什么自己的测试经验
- 6ElasticSearch 基础（五）之 映射_es映射
- 7windows下，git报错 warning: Clone succeeded, but checkout failed._unable to write new index filewarning: clone succe
- 8【保姆级教程】Linux上部署Stable Diffusion WebUI和LoRA训练，拥有你的专属图片生成模型_stable diffusion linux
- 9网络安全公司出版书籍一览_九维彩虹团队 pdf
- 10解决Ubuntu 20.04下外接显示屏无信号问题【多次尝试无坑完整版！！！】_ubuntu20.04无法查看hdmi信息
当前位置: article > 正文
开源python-向transformers学习_python transformer github
作者：码创造者 | 2024-07-26 20:13:15
赞
踩
python transformer github
python开源系列文章
- 开源Python-单元测试
- 开源python-文档撰写
- 开源python-代码规范与检查
- 开源python-打包发布
- 开源python-自动集成
- 开源python-向transformers学习
- 开源python-向timm学习
- 开源python-向tensorflow-addons学习
- 开源python-向mmdetection学习
- 开源python-向tytorch学习
向transformers学习
https://github.com/huggingface/transformers
功能：支持NLP BERT时代的各种任务与模型
结构
测试
以tensorflow的模型为例
-
测试TF model
- 准备工作
-
UtilsFunctions测试
- 测试无网链接时，使用cached file
- 测试从文件中加载
- 测试从url加载预训练模型
- 测试unpack输入
- 测试xla,softmax在cpu是否稳定
- 测试从hub中checkpoint分区
- 测试checkpiunt 分区
-
检查上传到hub
- push to hub
- push to hub中的组织
详细
以AutoModel为中心，加上不同的head用于不同任务
- ForCausalLM (解码器加上语言模型head，可用于文本生成)
- ForSequenceClassification (解码器加上分类head，可用于文本分类)
config
参考
- https://zhuanlan.zhihu.com/p/64770086
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/码创造者/article/detail/887034
推荐阅读
相关标签
