word2vec 中的数学原理详解

缺乏、安全感 2021-09-17 10:52 314阅读 0赞

##   [来源][Link 1] ##

word2vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包，它简单、高效，因此引起了很多人的关注。由于 word2vec 的作者 Tomas Mikolov 在两篇相关的论文 \[3,4\] 中并没有谈及太多算法细节，因而在一定程度上增加了这个工具包的神秘感。一些按捺不住的人于是选择了通过解剖源代码的方式来一窥究竟，出于好奇，我也成为了他们中的一员。读完代码后，觉得收获颇多，整理成文，给有需要的朋友参考。

**相关链接**

（一）[目录和前言][Link 2]

（二）[预备知识][Link 3]

（三）[背景知识][Link 4]

（四）[基于 Hierarchical Softmax 的模型][Hierarchical Softmax]

（五）[基于 Negative Sampling 的模型][Negative Sampling]

（六）[若干源码细节][Link 5]

作者: peghoty

出处: http://blog.csdn.net/itplus/article/details/37969519

欢迎转载/分享, 但请务必声明文章出处.

[Link 1]: https://blog.csdn.net/itplus/article/details/37969519
[Link 2]: http://blog.csdn.net/itplus/article/details/37969519
[Link 3]: http://blog.csdn.net/itplus/article/details/37969635
[Link 4]: http://blog.csdn.net/itplus/article/details/37969817
[Hierarchical Softmax]: http://blog.csdn.net/itplus/article/details/37969979
[Negative Sampling]: http://blog.csdn.net/itplus/article/details/37998797
[Link 5]: http://blog.csdn.net/itplus/article/details/37999613

发表评论取消回复

表情：

评论列表（有 0 条评论，314人围观）

还没有评论，来说两句吧...

相关阅读

相关 word2vec

Word2Vec 是一种词嵌入模型，用于将文本中的单词映射到一个固定大小的向量空间中。它的主要目的是通过计算单词之间的相似度来增强自然语言处理的性能。Word2Vec 通常用于

妖狐艹你老母/ 2024年03月25日 17:38/ 0 赞/ 61 阅读

相关 Word2Vec

文本处理流程： preprocess:tokenize+lemma/stemming+stopwords+word\_list \+make features \+

男娘i/ 2023年06月23日 10:52/ 0 赞/ 13 阅读

相关 Word2Vec

Word2Vec Word2Vec是将词表示为实数值向量的工具，并将对文本内容的处理转换为K维向量空间的向量运算。Word2Vec输出的词向量可以用来做NLP相关的工作，

╰+哭是因爲堅強的太久メ/ 2022年08月09日 06:29/ 0 赞/ 206 阅读

相关 Word2Vec数学模型

N-gram模型 N-gram模型假设一个词出现的概率只与它前面固定数目的词相关。一般而言，n的选取需要同时考虑计算复杂度和模型效果两个因素。 ![n的选择][n]

叁歲伎倆/ 2022年07月29日 09:17/ 0 赞/ 191 阅读

相关 word2vec 数学原理

word2vec 是 Google 于 2013 年推出的一个用于获取词向量的开源工具包。我们在项目中多次使用到它，但囿于时间关系，一直没仔细探究其背后的原理。网络上《w

秒速五厘米/ 2022年06月07日 09:42/ 0 赞/ 144 阅读

相关 word2vec中的数学原理详解

word2vec是Google于2013年开源推出的一个用于获取word vector的工具包，它简单、高效，因此引起了很多人的关注。由于word2vec的作者Toma

￡神魔★判官ぃ/ 2022年04月02日 20:38/ 0 赞/ 196 阅读

相关 word2vec数学分析

本文没有繁文缛节，纯数学推导，建议先阅读[《word2vec中的数学原理详解》][word2vec] 一、逻辑回归可以阅读[《逻辑回归算法分析》][L

分手后的思念是犯贱/ 2022年04月02日 14:12/ 0 赞/ 203 阅读

相关 word2vec 中的数学原理详解

[word2vec 中的数学原理详解][word2vec] word2vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包，

傷城~/ 2022年02月01日 00:13/ 0 赞/ 208 阅读

相关通俗理解Word2Vec的数学原理

《通俗理解Word2Vec》目录简述Word2Vec CBOW模型用层级softmax实现 CBOW模型负采样方式实现 ------------------

电玩女神/ 2022年01月31日 08:15/ 0 赞/ 263 阅读

相关 word2vec 中的数学原理详解

[来源][Link 1] word2vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包，它简单、高效，因

缺乏、安全感/ 2021年09月17日 10:52/ 0 赞/ 315 阅读