数据测量与相似性分析

左手的ㄟ右手 2021-12-20 11:59 436阅读 0赞

这篇文章中主要记录如何分析样本间相似性的内容，相似性分析在分类算法（如K最邻近分类）和聚类任务中会涉及到。相似性分析基于样本属性取值，因此对于样本属性类型及其取值的特征也有必要说明。

## 1.数据测量及属性分类 ##

** 测量某个对象得到数据的过程实质上是描述该对象的属性（特征）、并将该属性映射到某个值上**，在这些值上一般可以定义如下几种操作：

*  相异性      ![=][gif.latex_3D] 、![\\neq][neq]
 *  序             ![<][gif.latex_3C]、![\\leq][leq]、![>][gif.latex_3E]、![\\geqslant][geqslant]
 *  加减          ![\+][gif.latex_plus]、![\-][-]
 *  乘除          ![\\ast][ast]、![\\div][div]

依据测量值能进行的操作类型，可以将属性分为：**标称型**(nominal)、**序数型**(ordinal)、**区间型**(interval)和**比率型**(ratio)，不同类型的定义及区别见下表

![70][]![点击并拖拽以移动][Image 1]  
**       **从属性取值个数方面，可以将属性分为：**属性型**(binary attribute)、**离散型**(discrete)、**连续型**(continuous)。取值为属性型时，其值只能为两个，如真/假、是/否、男/女、0/1等，这种取值的属性称为二元属性。标称型、序数型数据的含义比较直观，而对于区间型数据，就以日历日期为例说明，现有两个日期值2017(年)、2018(年)，二者之间的差值可以理解为间隔一年，但是二者间乘或除得到的值则毫无意义，这就是区间值的特征。对于比率型数据，以体重为例，100kg的人可以说是50kg的人体重的两倍，这是有现实直观意义的。有的数据类型可能兼具多种操作方法（如体重可以加减，也可以除），可能在属性类型分类上不那么明显，但需要强调的是：**属性归类问题不重要，重要的是明确哪些操作是有意义的。**

除了从以上几个方面对属性进行分类与定义外，还可以按属性取值对称与否来分类。非对称的属性其不同取值间权重不一致，例如艾滋病检验的结果可为阳性和阴性，但是显然我们更关注是否为阳性，该值对判断是否患艾滋病更为关键。对称的属性其取值权重就一致了，例如某路段一定时间内通过的车辆数。

## 2.样本相似性分析 ##

样本相似性分析常用于分类、聚类任务中。相似性肯定要依据样本属性取值来分析的，这其中关键就在**属性值的处理**、**相似性度量标准上。**

### **     **2.1属性值的处理 ###

**       2.1.1 二元化**

**       **在一些算法中（如发现关联模式的算法）要求数据的属性为二元属性，二元化处理就是将数据的属性从“多元”转化为“二元”的过程。二元化的过程为：假设属性取值有![m][]个，则将整数区间 ![\\left \[0,m-1 \\right \]][left _0_m-1 _right]中的每个值唯一的赋予该属性的每个取值，如果该属性的取值是有序的，则赋值的过程也必须按顺序赋值，然后将这![m][]个值用二进制表示，共需要 ![\\left \\lceil log\_\{2\}m \\right \\rceil][left _lceil log_2_m _right _rceil]（结果向上取整）个二进制位。

二元化的过程是用多个二元属性来表示一个多元属性，例如一个具有5个取值的属性\{awful，poor，ok，good，great\}可以用3个二元属性![x\_\{1\}][x_1]、![x\_\{2\}][x_2]、![x\_\{3\}][x_3]表示

![70 1][]![点击并拖拽以移动][Image 1]

以上的二元化过程可能会导致属性间关系复杂化，例如上表中属性![x\_\{2\}][x_2]和![x\_\{3\}][x_3]是相关的，因为“good”值需要这两个属性来表示。这种情况下可以为每一个取值引入一个二元属性，比如下表中的方式

![70 2][]![点击并拖拽以移动][Image 1]

当一个属性取值数量较多时（这里暂指离散取值的情况），这种做法会引入过多的属性值，此时可以在二元化之前先离散化属性的取值。

**      2.1.2 离散化**

**     ** 离散化一般针对取值为连续的情况，但是当取值为离散序数、取值间隔小且多时也可以考虑离散化。离散化的过程需要考虑两个问题：分类值个数设定、如何将属性连续取值映射到这些分类值上。离散化过程可以分为**非监督离散化**和**监督离散化**，区别就在于是否使用数据的类信息（分类、聚类任务中）。

非监督离散化主要有**等宽**、**等频率**和**K均值方法，**有时候画图之后目测也是一种不错的方法。**等宽离散化**是将属性的值域等宽得划分成有限的区间，区间个数由用户指定，这种方法可能受离群点（远离一般取值范围的数据点，也可以称为奇异点）影响而导致性能不佳；**等频离散化**在指定划分区间个数时，保证每个区间内数据点个数相同；**K均值离散化**则是使用了K均值聚类方法的思想来划分区间。下图是用以上几种方法对一组数据进行离散化的结果，区间划分个数均为4。

![70 3][]![点击并拖拽以移动][Image 1]

监督离散化方法一般要比非监督离散化方法产生的效果要好，因为使用了类信息，因此能使区间内数据的类更纯，所以一种简单的概念上的方法是“极大化区间内数据类别纯度”来确定分割点，在该类方法中，首先要确定一个类别纯度的度量指标，然后确定最优区间划分过程搜索方案。

**      2.1.3 变换与规范化**

**     ** 变换是将属性值域映射到另外一个值域上的过程，例如常见的函数变换 ![x^\{2\}][x_2 1]、![log\_\{2\}x][log_2_x] 等，在统计学中，也通常会通过变换（中心极限定理）构造服从正态分布的统计量。变换的需求与方式与具体的任务紧密相关，例如数据压缩时会采用对数变换，将数据量从![10^\{9\}][10_9]压缩为![9][]。变换时尤其要注意，不能改变数据的特性，所以说一定要依据具体的任务来确定变换方式。例如在非线性SVM模型中，就用到了这种方式，将输入空间通过非线性映射到特征空间。

规范化也可以看做一种变换方式，其目标是使属性的取值具有特定的性质，主要包括以下几种方法

**标准化**：标准化的过程是将样本均值变为0，标准差变为1。设变量![x][]的均值为![\\bar\{x\}][bar_x]，标准差为![s\_\{x\}][s_x]，则可以创建一个新的变量![\{x\}'][x 1]

![\{x\}'=(x-\\bar\{x\})/s\_\{x\}][x_x-_bar_x_s_x]

**归一化**：将数据取值范围处理到\[0,1\]范围内（有的场合下也会处理到\[-1,1\]范围），方便不同取值范围属性间比较。一般的处理方式为

![\{x\}'=\\frac\{x-x\_\{min\}\}\{x\_\{max\}-x\_\{min\}\}][x_frac_x-x_min_x_max_-x_min]

如果取值范围为\[0,![\\infty][infty]\]，则可以考虑以下形式

![\{x\}'=\\frac\{x\}\{1+x\}][x_frac_x_1_x]

具体的规范化方法需要结合实际的应用来，在考虑任务需求及数据特性情况下选择可行的方法。

## 2.2 相似性度量标准 ##

**     ** 与相似性相反的概念称为相异形，二者描述的是同一种关系，通常会用**邻近度**来描述相似或相异性。先介绍几种度量标准，然后从简单的单属性数据间相似性分析着手，一点一点将情况复杂化。

**2.2.1 邻近度度量标准**  
**     **

**     ** **欧氏距离**

**     ** 欧氏距离是一种比较常见的度量标准，对于包含有n个属性值的数据 ![x][] 和 ![y][]，其欧氏距离![d(x,y)][d_x_y]定义为

![d(x,y)=\\sqrt\{\\sum\_\{i=1\}^\{n\}(x\_\{i\}-y\_\{i\})^2\}][d_x_y_sqrt_sum_i_1_n_x_i_-y_i_2]

欧氏距离有如下几个性质是成立的

*  非负性，![d(x,y)\\geq 0][d_x_y_geq 0]
 *  对称性，![d(x,y)=d(y,x)][d_x_y_d_y_x]
 *  三角不等式，对于数据 ![x][] 、![y][]、![z][]，有![d(x,y)+d(y,z)\\geq d(x,z)][d_x_y_d_y_z_geq d_x_z]

在使用欧氏距离时，要考虑不同属性间取值范围差异的问题，例如年龄与收入，在计算欧氏距离前先要将所有属性取值进行规范化。

**       曼哈顿距离**

**      ** 曼哈顿距离在几何学中指坐标系中两个点各向坐标差值绝对值的和，如下图所示，在二维空间中，红线即表示曼哈顿距离，绿线表示欧氏距离。

**                                                                             ** ![70 4][]![点击并拖拽以移动][Image 1]

对于具有n个属性的数据 ![x][] 和 ![y][]，曼哈顿距离指其各个属性值差值的绝对值的和，定义为

![d(x,y)=\\sum\_\{i=1\}^\{n\}|(x\_\{i\}-y\_\{i\})|][d_x_y_sum_i_1_n_x_i_-y_i]

**       余弦相似度**

**       **当属性为多元属性时，也有一些情况下不考虑![f\_\{00\}][f_00]的情况，此时可以使用余弦相似度，设数据 ![x][] 和 ![y][]均具有n个多元属性，则余弦相似度定义为

![cos(x,y)=\\frac\{\\sum\_\{i=1\}^\{n\}x\_\{i\}y\_\{i\}\}\{\\left \\| x \\right \\| \\left \\| y \\right \\|\}][cos_x_y_frac_sum_i_1_n_x_i_y_i_left _ x _right _ _left _ y _right]

![\\left \\| x \\right \\|=\\sqrt\{\\sum\_\{i=1\}^\{n\}x\_\{i\}^\{2\}\}][left _ x _right _sqrt_sum_i_1_n_x_i_2]，![\\left \\| y \\right \\|=\\sqrt\{\\sum\_\{i=1\}^\{n\}y\_\{i\}^\{2\}\}][left _ y _right _sqrt_sum_i_1_n_y_i_2]

从几何角度看，余弦相似度就是两个向量间的夹角。

**       简单匹配系数**

**       **该度量标准常用于具有二元属性数据间的相似性度量。设数据 ![x][] 和 ![y][]均具有n个二元属性，用![f\_\{00\}][f_00]表示![x][]取0且![y][]取0的属性个数，用![f\_\{01\}][f_01]表示![x][]取0且![y][]取1的属性个数，用![f\_\{10\}][f_10]表示![x][]取1且![y][]取0的属性个数，用![f\_\{11\}][f_11]表示![x][]取1且![y][]取1的属性个数，则简单匹配系数![SMC][]定义为

![SMC=\\frac\{f\_\{00\}+f\_\{11\}\}\{f\_\{00\}+f\_\{01\}+f\_\{10\}+f\_\{11\}\}][SMC_frac_f_00_f_11_f_00_f_01_f_10_f_11]

对于非对称的二元属性来说，更关注的是取1的情况，因此有些情况下将![f\_\{00\}][f_00]纳入计算是不合理的情况，例如两个学生选课问题，1表示选修了某门课程，0表示未选修，而一个学生只需要选修一定数量的课程，还有大部分课程是不需要选修的，因此![f\_\{00\}][f_00]的情况会比较多，这种情况下考虑![f\_\{00\}][f_00]就不太合理。

**   ** **Jaccord系数**

** **      ![Jaccard][]系数是简单匹配系数中不考虑![f\_\{00\}][f_00]的情况，其定义为

![J=\\frac\{f\_\{11\}\}\{f\_\{01\}+f\_\{10\}+f\_\{11\}\}][J_frac_f_11_f_01_f_10_f_11]

**皮尔森相关系数**

**     ** 皮尔森相关系数可以用于具有连续取值属性对象间的相似性度量，该参数在统计学中一般简称为相关系数，设数据 ![x][] 和 ![y][]均具有n个连续取值属性，则相关系数定义为

![corr(x,y)=\\frac\{s\_\{xy\}\}\{s\_\{x\}s\_\{y\} \}][corr_x_y_frac_s_xy_s_x_s_y_]

![s\_\{xy\}=\\frac\{1\}\{n-1\}\\sum\_\{i=1\}^\{n\}(x\_\{i\}-\\bar\{x\})(y\_\{i\}-\\bar\{y\})][s_xy_frac_1_n-1_sum_i_1_n_x_i_-_bar_x_y_i_-_bar_y]

![s\_\{x\}=\\sqrt\{\\frac\{1\}\{n-1\}\\sum\_\{i=1\}^\{n\}(x\_\{i\}-\\bar\{x\})^\{2\}\}][s_x_sqrt_frac_1_n-1_sum_i_1_n_x_i_-_bar_x_2]

![s\_\{y\}=\\sqrt\{\\frac\{1\}\{n-1\}\\sum\_\{i=1\}^\{n\}(y\_\{i\}-\\bar\{y\})^\{2\}\}][s_y_sqrt_frac_1_n-1_sum_i_1_n_y_i_-_bar_y_2]

![\\bar\{x\}=\\frac\{1\}\{n\}\\sum\_\{i=1\}^\{n\}x\_\{i\}][bar_x_frac_1_n_sum_i_1_n_x_i]

![\\bar\{y\}=\\frac\{1\}\{n\}\\sum\_\{i=1\}^\{n\}y\_\{i\}][bar_y_frac_1_n_sum_i_1_n_y_i]

皮尔森相关系数的取值范围为\[-1,1\]，0表示不相关，1表示正相关，-1表示负相关，该系数上的加、减、乘、除操作均无意义，只有序数操作是有意义的。在讨论相似性的条件下，负相关表示的“不相似”程度可能比不相关更严重，当然这个还得在实际的任务中去判断。

**2.2.2 单属性数据相似性分析**

**     ** 当属性为标称类型时，如路人甲头发颜色为黑色，路人乙头发颜色为黄色，仅依据头发颜色分析二人之间相似性，给出的结论只能是不相似，假如用区间\[0,1\]之间的值来表示相似程度，0表示不相似，1表示相似，则这种情况相似度为0，但若路人甲与路人乙头发颜色相同，则相似度为1。因此，在属性为标称类型情况下，相似度只能取0和1中的一种。

当属性为序数类型时，则需考虑序数信息，例如2.1.1节中的例子，属性的取值为\{awful，poor，ok，good，great\}，一个明显的结论是，相对于"ok"，"great"更接近"good"，但是在分析相似性时一般需要将其量化，这里可以量化为 \{awful=0，poor=1，ok=2，good=3，great-4\}。依据第1节中对序数类型属性的描述，可知其减法操作是没有意义的，又或者说“ok”与"good"间的差真的与“good”与"great"间的差相同吗？但是在实践中一般手段有限，因此对于这种情况，可以将两个序数间的相似性定义为

![sim(v\_\{1\},v\_\{2\})=\\frac\{\\left |v\_\{1\}-v\_\{2\} \\right |\}\{v\_\{max\}-v\_\{min\}\}][sim_v_1_v_2_frac_left _v_1_-v_2_ _right _v_max_-v_min]

当属性为区间和比率类型时，一般用差值的绝对值来度量相似性。特别的，对于区间型属性，若是取值区间有限，则也可以使用

![sim(v\_\{1\},v\_\{2\})=\\frac\{\\left |v\_\{1\}-v\_\{2\} \\right |\}\{v\_\{max\}-v\_\{min\}\}][sim_v_1_v_2_frac_left _v_1_-v_2_ _right _v_max_-v_min]

的相似性定义形式。

**        2.2.3 多属性数据相似性分析**

**       ** 多属性的情况，一般的做法是将每个属性取值按照以上介绍的方法处理之后，再选择一个度量标准分析相似性，在一些场合下也对不同的属性进行加权处理，但是也存在一些特殊情况，例如部分属性为非对称属性。

对于部分属性为非对称属性的情况，则可以按照以下公式计算

![similarity(x,y)=\\frac\{\\sum\_\{i=1\}^\{k\}\\delta\_\{k\}s\_\{k\}(x,y) \}\{\\sum\_\{i=1\}^\{k\}\\delta\_\{k\}\}][similarity_x_y_frac_sum_i_1_k_delta_k_s_k_x_y_ _sum_i_1_k_delta_k]

上式中![k][]表示数据![x][]、![y][]的属性个数，![s\_\{k\}(x,y)][s_k_x_y]表示在第![k][]个属性上计算的![x][]、![y][]相似度（按照2.2.2节中方式计算），![\\delta \_\{k\}][delta _k]定义为：当第![k][]个属性为非对称属性，且![x][]、![y][]在该属性上取值均为0，或者其中一个属性值缺失，则![\\delta \_\{k\}][delta _k]=0，否则为1。

**      **

**        **

转载于:https://www.cnblogs.com/hgz-dm/p/10886100.html

[gif.latex_3D]: https://private.codecogs.com/gif.latex?%3D
[neq]: https://private.codecogs.com/gif.latex?%5Cneq
[gif.latex_3C]: https://private.codecogs.com/gif.latex?%3C
[leq]: https://private.codecogs.com/gif.latex?%5Cleq
[gif.latex_3E]: https://private.codecogs.com/gif.latex?%3E
[geqslant]: https://private.codecogs.com/gif.latex?%5Cgeqslant
[gif.latex_plus]: https://private.codecogs.com/gif.latex?&plus;
[-]: https://private.codecogs.com/gif.latex?-
[ast]: https://private.codecogs.com/gif.latex?%5Cast
[div]: https://private.codecogs.com/gif.latex?%5Cdiv
[70]: https://img-blog.csdn.net/20181015150440745?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1Z3VvemhpZW5ncg==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[Image 1]: 
[m]: https://private.codecogs.com/gif.latex?m
[left _0_m-1 _right]: https://private.codecogs.com/gif.latex?%5Cleft%20%5B0%2Cm-1%20%5Cright%20%5D
[left _lceil log_2_m _right _rceil]: https://private.codecogs.com/gif.latex?%5Cleft%20%5Clceil%20log_%7B2%7Dm%20%5Cright%20%5Crceil
[x_1]: https://private.codecogs.com/gif.latex?x_%7B1%7D
[x_2]: https://private.codecogs.com/gif.latex?x_%7B2%7D
[x_3]: https://private.codecogs.com/gif.latex?x_%7B3%7D
[70 1]: https://img-blog.csdn.net/20181015153842192?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1Z3VvemhpZW5ncg==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[70 2]: https://img-blog.csdn.net/20181015155630285?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1Z3VvemhpZW5ncg==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[70 3]: https://img-blog.csdn.net/20181015164313982?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1Z3VvemhpZW5ncg==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[x_2 1]: https://private.codecogs.com/gif.latex?x%5E%7B2%7D
[log_2_x]: https://private.codecogs.com/gif.latex?log_%7B2%7Dx
[10_9]: https://private.codecogs.com/gif.latex?10%5E%7B9%7D
[9]: https://private.codecogs.com/gif.latex?9
[x]: https://private.codecogs.com/gif.latex?x
[bar_x]: https://private.codecogs.com/gif.latex?%5Cbar%7Bx%7D
[s_x]: https://private.codecogs.com/gif.latex?s_%7Bx%7D
[x 1]: https://private.codecogs.com/gif.latex?%7Bx%7D%27
[x_x-_bar_x_s_x]: https://private.codecogs.com/gif.latex?%7Bx%7D%27%3D%28x-%5Cbar%7Bx%7D%29/s_%7Bx%7D
[x_frac_x-x_min_x_max_-x_min]: https://private.codecogs.com/gif.latex?%7Bx%7D%27%3D%5Cfrac%7Bx-x_%7Bmin%7D%7D%7Bx_%7Bmax%7D-x_%7Bmin%7D%7D
[infty]: https://private.codecogs.com/gif.latex?%5Cinfty
[x_frac_x_1_x]: https://private.codecogs.com/gif.latex?%7Bx%7D%27%3D%5Cfrac%7Bx%7D%7B1&plus;x%7D
[y]: https://private.codecogs.com/gif.latex?y
[d_x_y]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29
[d_x_y_sqrt_sum_i_1_n_x_i_-y_i_2]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29%3D%5Csqrt%7B%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%28x_%7Bi%7D-y_%7Bi%7D%29%5E2%7D
[d_x_y_geq 0]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29%5Cgeq%200
[d_x_y_d_y_x]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29%3Dd%28y%2Cx%29
[z]: https://private.codecogs.com/gif.latex?z
[d_x_y_d_y_z_geq d_x_z]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29&plus;d%28y%2Cz%29%5Cgeq%20d%28x%2Cz%29
[70 4]: https://img-blog.csdn.net/20181018211620783?watermark/2/text/aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2h1Z3VvemhpZW5ncg==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70
[d_x_y_sum_i_1_n_x_i_-y_i]: https://private.codecogs.com/gif.latex?d%28x%2Cy%29%3D%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%7C%28x_%7Bi%7D-y_%7Bi%7D%29%7C
[f_00]: https://private.codecogs.com/gif.latex?f_%7B00%7D
[cos_x_y_frac_sum_i_1_n_x_i_y_i_left _ x _right _ _left _ y _right]: https://private.codecogs.com/gif.latex?cos%28x%2Cy%29%3D%5Cfrac%7B%5Csum_%7Bi%3D1%7D%5E%7Bn%7Dx_%7Bi%7Dy_%7Bi%7D%7D%7B%5Cleft%20%5C%7C%20x%20%5Cright%20%5C%7C%20%5Cleft%20%5C%7C%20y%20%5Cright%20%5C%7C%7D
[left _ x _right _sqrt_sum_i_1_n_x_i_2]: https://private.codecogs.com/gif.latex?%5Cleft%20%5C%7C%20x%20%5Cright%20%5C%7C%3D%5Csqrt%7B%5Csum_%7Bi%3D1%7D%5E%7Bn%7Dx_%7Bi%7D%5E%7B2%7D%7D
[left _ y _right _sqrt_sum_i_1_n_y_i_2]: https://private.codecogs.com/gif.latex?%5Cleft%20%5C%7C%20y%20%5Cright%20%5C%7C%3D%5Csqrt%7B%5Csum_%7Bi%3D1%7D%5E%7Bn%7Dy_%7Bi%7D%5E%7B2%7D%7D
[f_01]: https://private.codecogs.com/gif.latex?f_%7B01%7D
[f_10]: https://private.codecogs.com/gif.latex?f_%7B10%7D
[f_11]: https://private.codecogs.com/gif.latex?f_%7B11%7D
[SMC]: https://private.codecogs.com/gif.latex?SMC
[SMC_frac_f_00_f_11_f_00_f_01_f_10_f_11]: https://private.codecogs.com/gif.latex?SMC%3D%5Cfrac%7Bf_%7B00%7D&plus;f_%7B11%7D%7D%7Bf_%7B00%7D&plus;f_%7B01%7D&plus;f_%7B10%7D&plus;f_%7B11%7D%7D
[Jaccard]: https://private.codecogs.com/gif.latex?Jaccard
[J_frac_f_11_f_01_f_10_f_11]: https://private.codecogs.com/gif.latex?J%3D%5Cfrac%7Bf_%7B11%7D%7D%7Bf_%7B01%7D&plus;f_%7B10%7D&plus;f_%7B11%7D%7D
[corr_x_y_frac_s_xy_s_x_s_y_]: https://private.codecogs.com/gif.latex?corr%28x%2Cy%29%3D%5Cfrac%7Bs_%7Bxy%7D%7D%7Bs_%7Bx%7Ds_%7By%7D%20%7D
[s_xy_frac_1_n-1_sum_i_1_n_x_i_-_bar_x_y_i_-_bar_y]: https://private.codecogs.com/gif.latex?s_%7Bxy%7D%3D%5Cfrac%7B1%7D%7Bn-1%7D%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%28x_%7Bi%7D-%5Cbar%7Bx%7D%29%28y_%7Bi%7D-%5Cbar%7By%7D%29
[s_x_sqrt_frac_1_n-1_sum_i_1_n_x_i_-_bar_x_2]: https://private.codecogs.com/gif.latex?s_%7Bx%7D%3D%5Csqrt%7B%5Cfrac%7B1%7D%7Bn-1%7D%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%28x_%7Bi%7D-%5Cbar%7Bx%7D%29%5E%7B2%7D%7D
[s_y_sqrt_frac_1_n-1_sum_i_1_n_y_i_-_bar_y_2]: https://private.codecogs.com/gif.latex?s_%7By%7D%3D%5Csqrt%7B%5Cfrac%7B1%7D%7Bn-1%7D%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%28y_%7Bi%7D-%5Cbar%7By%7D%29%5E%7B2%7D%7D
[bar_x_frac_1_n_sum_i_1_n_x_i]: https://private.codecogs.com/gif.latex?%5Cbar%7Bx%7D%3D%5Cfrac%7B1%7D%7Bn%7D%5Csum_%7Bi%3D1%7D%5E%7Bn%7Dx_%7Bi%7D
[bar_y_frac_1_n_sum_i_1_n_y_i]: https://private.codecogs.com/gif.latex?%5Cbar%7By%7D%3D%5Cfrac%7B1%7D%7Bn%7D%5Csum_%7Bi%3D1%7D%5E%7Bn%7Dy_%7Bi%7D
[sim_v_1_v_2_frac_left _v_1_-v_2_ _right _v_max_-v_min]: https://private.codecogs.com/gif.latex?sim%28v_%7B1%7D%2Cv_%7B2%7D%29%3D%5Cfrac%7B%5Cleft%20%7Cv_%7B1%7D-v_%7B2%7D%20%5Cright%20%7C%7D%7Bv_%7Bmax%7D-v_%7Bmin%7D%7D
[similarity_x_y_frac_sum_i_1_k_delta_k_s_k_x_y_ _sum_i_1_k_delta_k]: https://private.codecogs.com/gif.latex?similarity%28x%2Cy%29%3D%5Cfrac%7B%5Csum_%7Bi%3D1%7D%5E%7Bk%7D%5Cdelta_%7Bk%7Ds_%7Bk%7D%28x%2Cy%29%20%7D%7B%5Csum_%7Bi%3D1%7D%5E%7Bk%7D%5Cdelta_%7Bk%7D%7D
[k]: https://private.codecogs.com/gif.latex?k
[s_k_x_y]: https://private.codecogs.com/gif.latex?s_%7Bk%7D%28x%2Cy%29
[delta _k]: https://private.codecogs.com/gif.latex?%5Cdelta%20_%7Bk%7D