机器学习中，有哪些特征选择的工程方法？

ゞ浴缸里的玫瑰 2022-05-06 02:00 184阅读 0赞

特征选择是特征工程中的重要问题（另一个重要的问题是特征提取），坊间常说：**数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已**。由此可见，特征工程尤其是特征选择在机器学习中占有相当重要的地位。机器学习做得好不好，被数据和模型共同影响，比如说，数据本身不可分，那么SVM等分类算法再牛逼，也不能完全正确分开。数据集本身是有内在特性的，数据集本身的特征决定了机器学习的上限。所以，一个机器学习算法可能在数据集A上效果很好，但在数据集B上效果很差，这是很正常的现象，因为数据集A和B的**内在特性**不一样。我以前学别人使用GBDT提取特征，别人使用GBDT提取特征，可以使分类效果提升，但是，我使用了GBDT提特征，并没有使效果提升。因为数据集特性不一样。所以，数据集的特性决定了算法能达到效果的上限。

通常而言，特征选择是指选择获得相应模型和算法最好性能的特征集，工程上常用的方法有以下：

1.  **计算每一个特征与响应变量的相关性**：工程上常用的手段有计算**皮尔逊系数**和**互信息系数**，**皮尔逊系数只能衡量线性相关性**，**互信息系数能够很好地度量各种相关性**，但是计算相对复杂一些，好在很多toolkit里边都包含了这个工具（如sklearn的MINE），得到相关性之后就可以**排序**选择特征了.(其实就是计算输出关于输入的导数，如果某个特征很大程度上影响了输出，那么该特征就会比较重要)。
2.  **构建单个特征的模型**，通过模型的准确性为特征排序，借此来选择特征，另外，记得JMLR'03上有一篇论文介绍了一种基于决策树的特征选择方法，本质上是等价的。当选择到了目标特征之后，再用来训练最终的模型；
3.   **通过L1正则项来选择特征**：L1正则方法具有**稀疏解**的特性，因此天然具备特征选择的特性，但是要注意，L1没有选到的特征不代表不重要，原因是两个具有高相关性的特征可能只保留了一个，如果要确定哪个特征重要应再通过**L2正则方法交叉检验**；
4.  **训练能够对特征打分的预选模型**，RandomForest和Logistic Regression等都能对模型的特征打分，通过打分获得相关性后再训练最终模型；
5.  **通过特征组合后再来选择特征**，如对 用户id 和 用户特征 最组合来获得较大的特征集再来选择特征，这种做法在**推荐系统**和**广告系统**中比较常见，这也是所谓亿级甚至十亿级特征的主要来源，原因是用户数据比较稀疏，组合特征能够同时兼顾全局模型和个性化模型，这个问题有机会可以展开讲。
6.  **通过深度学习来进行特征选择**：目前这种手段正在随着深度学习的流行而成为一种手段，尤其是在计算机视觉和语音识别领域，而且在自然语言处理也越来被重视，原因是深度学习具有自动学习特征的能力，这也是深度学习又叫 无监督学习（unsupervised feature learning）的原因。从深度学习模型中选择某一神经层的特征后就可以用来进行最终目标模型的训练了。