归一化处理方法

柔情只为你懂 2022-05-09 09:08 212阅读 0赞

数据归一化问题是数据挖掘中特征向量表达时的重要问题，当不同的特征成列在一起的时候，由于特征本身表达方式的原因而导致在绝对数值上的小数据被大数据“吃掉”的情况，这个时候我们需要做的就是对抽取出来的features vector进行归一化处理，以保证每个特征被分类器平等对待。下面我描述几种常见的Normalization Method，并提供相应的python实现（其实很简单）：

1、(0,1)标准化：

这是最简单也是最容易想到的方法，通过遍历feature vector里的每一个数据，将Max和Min的记录下来，并通过Max-Min作为基数（即Min=0，Max=1）进行数据的归一化处理：

![SouthEast][]

LaTex：\{x\}\_\{normalization\}=\\frac\{x-Min\}\{Max-Min\}

Python实现：

def MaxMinNormalization(x,Max,Min):
    
        x = (x - Min) / (Max - Min);
    
        return x;

找大小的方法直接用np.max()和np.min()就行了，尽量不要用python内建的max()和min()，除非你喜欢用List管理数字![偷笑][titter.gif]。

2、Z-score标准化：

这种方法给予原始数据的均值（mean）和标准差（standard deviation）进行数据的标准化。经过处理的数据符合标准正态分布，即均值为0，标准差为1，这里的关键在于复合标准正态分布，个人认为在一定程度上改变了特征的分布，关于使用经验上欢迎讨论，我对这种标准化不是非常地熟悉，转化函数为：

![SouthEast 1][]

LaTex：\{x\}\_\{normalization\}=\\frac\{x-\\mu \}\{\\sigma \}

Python实现：

def  Z_ScoreNormalization(x,mu,sigma):
    
        x = (x - mu) / sigma;
    
        return x;

这里一样，mu（即均值）用np.average()，sigma（即标准差）用np.std()即可。

3、Sigmoid函数

Sigmoid函数是一个具有S形曲线的函数，是良好的阈值函数，在(0, 0.5)处中心对称，在(0, 0.5)附近有比较大的斜率，而当数据趋向于正无穷和负无穷的时候，映射出来的值就会无限趋向于1和0，是个人非常喜欢的“归一化方法”，之所以打引号是因为我觉得Sigmoid函数在阈值分割上也有很不错的表现，根据公式的改变，就可以改变分割阈值，这里作为归一化方法，我们只考虑(0, 0.5)作为分割阈值的点的情况：

![SouthEast 2][]

![SouthEast 3][]

LaTex：\{x\}\_\{normalization\}=\\frac\{1\}\{1+\{e\}^\{-x\}\}

Python实现：

def sigmoid(X,useStatus):
    
        if useStatus:
    
            return 1.0 / (1 + np.exp(-float(X)));
    
        else:
    
            return float(X);

这里useStatus管理是否使用sigmoid的状态，方便调试使用。

函数的基本性质：

1.  定义域：(−∞,+∞)(−∞,+∞)
2.  值域：(−1,1)(−1,1)
3.  函数在定义域内为连续和光滑函数
4.  处处可导，导数为：f′(x)=f(x)(1−f(x))f′(x)=f(x)(1−f(x))

最早Logistic函数是皮埃尔·弗朗索瓦·韦吕勒在1844或1845年在研究它与人口增长的关系时命名的。广义Logistic曲线可以模仿一些情况人口增长（P）的 S 形曲线。起初阶段大致是指数增长；然后随着开始变得饱和，增加变慢；最后，达到成熟时增加停止。

# 二、 Sigmoid函数与逻辑回归 #

Sigmoid函数之所以叫Sigmoid，是因为函数的图像很想一个字母S。这个函数是一个很有意思的函数，从图像上我们可以观察到一些直观的特性：函数的取值在0-1之间，且在0.5处为中心对称，并且越靠近x=0的取值斜率越大。

机器学习中一个重要的预测模型逻辑回归（LR）就是基于Sigmoid函数实现的。LR模型的主要任务是给定一些历史的\{X,Y\}，其中X是样本n个特征值，Y的取值是\{0,1\}代表正例与负例，通过对这些历史样本的学习，从而得到一个数学模型，给定一个新的X，能够预测出Y。LR模型是一个二分类模型，即对于一个X，预测其发生或不发生。但事实上，对于一个事件发生的情况，往往不能得到100%的预测，因此LR可以得到一个事件发生的可能性，超过50%则认为事件发生，低于50%则认为事件不发生

从LR的目的上来看，在选择函数时，有两个条件是必须要满足的：  
1. 取值范围在0~1之间。  
2. 对于一个事件发生情况，50%是其结果的分水岭，选择函数应该在0.5中心对称。

从这两个条件来看，Sigmoid很好的符合了LR的需求。关于逻辑回归的具体实现与相关问题，可看这篇文章[Logistic函数（sigmoid函数） - wenjun’s blog][Logistic_sigmoid_ - wenjun_s blog]，在此不再赘述。

[SouthEast]: /images/20220509/405959c34faa445bbf62f2f8f6487272.png
[titter.gif]: /images/20220509/24ba12e836024f5f9f3d12a935da7575.png
[SouthEast 1]: /images/20220509/cb1d6e13d0594a89a933e823a02c5a65.png
[SouthEast 2]: /images/20220509/aae1f1f7dd7949b88af9d0327d2e82a4.png
[SouthEast 3]: /images/20220509/d3a08b6297d641c68c59543180bb8df3.png
[Logistic_sigmoid_ - wenjun_s blog]: http://wenjunoy.com/2016/01/logistic-sigmoid-function.html