使用余弦相似度算法计算文本相似度

灰太狼 2022-02-22 09:51 469阅读 0赞

在求相似度的时候经常会有以下一些方法，  
1.基于词向量

*  余弦相似度
 *  曼哈顿距离
 *  欧几里得距离
 *  明式距离（是前两种距离测度的推广），在极限情况下的距离是切比雪夫距离

2.基于字符的

*  编辑距离
 *  simhash
 *  共有字符数（有点类似 onehot 编码 ，直接统计两个文本的共有字符数，最 naive 的相似度算法了）

3.基于概率统计的

*  杰卡德相似系数

4.基于词嵌入模型的

*  word2vec/doc2vec

在求文本相似度的时候经常会使用余弦相似度来求，下面来记录一下余弦相似度的原理。

### 余弦相似度 ###

余弦相似度量：计算个体间的相似度。  
相似度越小，距离越大。相似度越大，距离越小。  
假设有3个物品，item1，item2和item3，用向量表示分别为：  
item1\[1,1,0,0,1\]，  
item2\[0,0,1,2,1\]，  
item3\[0,0,1,2,0\]，  
即五维空间中的3个点。用欧式距离公式计算item1、itme2之间的距离，以及item2和item3之间的距离，分别是：  
item1-item2=  
![在这里插入图片描述][20190409090518858.png]  
item2-item3=  
![在这里插入图片描述][20190409090527137.png]  
用余弦函数计算item1和item2夹角间的余弦值为：  
![在这里插入图片描述][2019040909055787.png]  
用余弦函数计算item2和item3夹角间的余弦值为：  
![在这里插入图片描述][20190409090623712.png]  
由此可得出item1和item2相似度小，两个之间的距离大(距离为7)，item2和itme3相似度大，两者之间的距离小(距离为1)。

**余弦相似度算法：** 一个向量空间中两个向量夹角间的余弦值作为衡量两个个体之间差异的大小，余弦值接近1，夹角趋于0，表明两个向量越相似，余弦值接近于0，夹角趋于90度，表明两个向量越不相似。

**余弦相似度量：** 计算个体间的相似度。  
相似度越小，距离越大。相似度越大，距离越小。

余弦相似度算法：一个向量空间中两个向量夹角间的余弦值作为衡量两个个体之间差异的大小，余弦值接近1，夹角趋于0，表明两个向量越相似，余弦值接近于0，夹角趋于90度，表明两个向量越不相似。

下面我们介绍使用余弦相似度计算两段文本的相似度。思路：1、分词；2、列出所有词；3、分词编码；4、词频向量化；5、套用余弦函数计量两个句子的相似度。

句子A：这只皮靴号码大了。那只号码合适。  
句子B：这只皮靴号码不小，那只更合适。  
1、分词：  
使用结巴分词对上面两个句子分词后，分别得到两个列表：  
listA=\[‘这‘, ‘只‘, ‘皮靴‘, ‘号码‘, ‘大‘, ‘了‘, ‘那‘, ‘只‘, ‘号码‘, ‘合适‘\]  
listB=\[‘这‘, ‘只‘, ‘皮靴‘, ‘号码‘, ‘不小‘, ‘那‘, ‘只‘, ‘更合‘, ‘合适‘\]

2、列出所有词，将listA和listB放在一个set中，得到：  
set=\{‘不小’, ‘了’, ‘合适’, ‘那’, ‘只’, ‘皮靴’, ‘更合’, ‘号码’, ‘这’, ‘大’\}  
将上述set转换为dict，key为set中的词，value为set中词出现的位置，即‘这’:1这样的形式。  
dict1=\{‘不小’: 0, ‘了’: 1, ‘合适’: 2, ‘那’: 3, ‘只’: 4, ‘皮靴’: 5, ‘更合’: 6, ‘号码’: 7, ‘这’: 8, ‘大’: 9\}，可以看出“不小”这个词在set中排第1，下标为0。

3、将listA和listB进行编码，将每个字转换为出现在set中的位置，转换后为：  
listAcode=\[8, 4, 5, 7, 9, 1, 3, 4, 7, 2\]  
listBcode=\[8, 4, 5, 7, 0, 3, 4, 6, 2\]  
我们来分析listAcode，结合dict1，可以看到8对应的字是“这”，4对应的字是“只”，9对应的字是“大”，就是句子A和句子B转换为用数字来表示。

4、对listAcode和listBcode进行oneHot编码，就是计算每个分词出现的次数。oneHot编号后得到的结果如下：  
listAcodeOneHot = \[0, 1, 1, 1, 2, 1, 0, 2, 1, 1\]  
listBcodeOneHot = \[1, 0, 1, 1, 2, 1, 1, 1, 1, 0\]  
下图总结了句子从分词，列出所有词，对分词进行编码，计算词频的过程  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIwOTg5MTA1_size_16_color_FFFFFF_t_70]  
5、得出两个句子的词频向量之后，就变成了计算两个向量之间夹角的余弦值，值越大相似度越高。  
listAcodeOneHot = \[0, 1, 1, 1, 2, 1, 0, 2, 1, 1\]  
listBcodeOneHot = \[1, 0, 1, 1, 2, 1, 1, 1, 1, 0\]  
![在这里插入图片描述][20190409090816595.png]  
根据余弦相似度，句子A和句子B相似度很高。

[20190409090518858.png]: /images/20220222/df990f9485984ab5942b73dd53b5f826.png
[20190409090527137.png]: /images/20220222/7d83dc6d031c4c1db2afc18d6ca90763.png
[2019040909055787.png]: /images/20220222/d2dac70fe6684ca0953f8ccb778a1bad.png
[20190409090623712.png]: /images/20220222/16c2e4c4ee5e4e25b8d69dfeaf7b2dd8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIwOTg5MTA1_size_16_color_FFFFFF_t_70]: /images/20220222/f22ddc24e443446db7ea04173e68ed2a.png
[20190409090816595.png]: /images/20220222/a22d364b0d0e414e961b43f7420ef991.png