当前位置:   article > 正文

自然语言处理LDA入门实战(python代码)_lda module.

lda module.

这是LDA的入门学习,由五个句子组成,训练的过程也较为简单。

代码的网页来源https://aiteam.blog.csdn.net/article/details/88392606

另外,在b站上找到一个视频教程,讲的很清楚,建议先看视频。网页来源https://www.bilibili.com/video/BV1rJ411g7Mz?p=171

LDA建模的步骤

1.预处理,将文档转为list to list形式,形成dictionary字典。即[[1word1,1word2,1word3],[2word1,2word2,2word3],[3word1,3word2,3word3]]的列表中有列表的格式。其中,大列表下每个小列表代表一个文档,每个文档又包含词。所以,要先进行去停用词、去标点符号、标准化、词干化等步骤。

2.形成词-文档矩阵DT/语料库,里面包含的是词和词频。也就是dictionary.doc2bow

3.使用gensim来LDA建模,需要dictionary、corpus语料库和topic数量k。

代码是自己修改过运行的,原代码没什么问题,只是在安装包时以及stopwords那里每个人的情况不同,我这里报错了,具体解决也都是百度来的。

  1. #从nltk中import停用词
  2. import nltk
  3. #nltk.download()
  4. from nltk.corpus import stopw
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/weixin_40725706/article/detail/719910
推荐阅读
相关标签
  

闽ICP备14008679号