热门标签
热门文章
- 1pycharm社区版、专业版和教育版区别是什么 _pycharm教育版(1)_pycharm教育版和专业版区别
- 2谷粒商城-商城业务-检索服务_谷粒商场 面包屑导航
- 3泄露的基准测试表明Meta Llama 3.1 405B模型的性能可能超过OpenAI GPT-4o
- 4【有点意思】Python Turtle+PIL ‘画图’之黄家驹_turtle 读取图片并绘制
- 5C语言在物联网(IoT)设备编程中的应用：传感器接口、无线通信与安全性（二）_c语言无线通信控制
- 6OpenCV-目标跟踪_opencv trackercsrt
- 7白看不如一练！分享10个Python爬虫入门案例
- 8大数据讲课笔记2.2 大数据应用场景
- 9django 需要修改的文件
- 10Linux：记一次排查内存和SWAP耗尽的原因的过程_c swap缓存占用排查
当前位置: article > 正文
word2vec损失函数_word2vec的损失函数
作者：笔触狂放9 | 2024-07-25 20:53:03
赞
踩
word2vec的损失函数
未优化前损失函数
以CBOW为例，利用softmax层计算出字典V中每个词的概率，再构建交叉熵损失函数
负采样损失函数
直接对词典里的V个词计算相似度并归一化显然是极其耗时的，为此作者提出了层次Softmax和负采样两种损失层
负采样损失函数：
这个目标函数表面的含义也可以理解为要尽量增大正例的(vc⋅vw)数据对，而尽量降低负例的(vc⋅vw)数据对
词与词之间，若其上下文很相近，则他们本身也很相似
声明：本文内容由网友自发贡献，转载请注明出处：【wpsshop】
推荐阅读
相关标签
