机器学习的误差包含偏差和方差

╰半夏微凉° 2022-09-04 11:50 110阅读 0赞

### 目录 ###

*  1 Bias（偏差）、Error（误差）、Variance（方差）
 *  2 \[判断模型是过拟合还是欠拟合--学习曲线\](https://www.cnblogs.com/nolonely/p/7382287.html)

[https://www.zhihu.com/question/27068705][https_www.zhihu.com_question_27068705]  
[https://zhuanlan.zhihu.com/p/44872686][https_zhuanlan.zhihu.com_p_44872686]

# 1 Bias（偏差）、Error（误差）、Variance（方差） #

参考链接：https://www.zhihu.com/question/27068705/answer/35151681

`Error = Bias + VarianceError` 反映的是整个模型的准确度，

*  `Bias`反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度
 *  `Variance`反映的是模型每一次输出结果与模型输出期望之间的误差，即模型的稳定性。

举一个例子，一次打靶实验，目标是为了打到10环，但是实际上只打到了7环，那么这里面的Error就是3。具体分析打到7环的原因，可能有两方面：

1.  是瞄准出了问题，比如实际上射击瞄准的是9环而不是10环；
2.  是枪本身的稳定性有问题，虽然瞄准的是9环，但是只打到了7环。

那么在上面一次射击实验中，Bias就是1,反应的是模型期望与真实目标的差距，而在这次试验中，由于Variance所带来的误差就是2，即虽然瞄准的是9环，但由于本身模型缺乏稳定性，造成了实际结果与模型期望之间的差距。在一个实际系统中，Bias与Variance往往是不能兼得的。如果要降低模型的Bias，就一定程度上会提高模型的Variance，反之亦然。造成这种现象的根本原因是，我们总是希望试图用有限训练样本去估计无限的真实数据。当我们更加相信这些数据的真实性，而忽视对模型的先验知识，就会尽量保证模型在训练样本上的准确度，这样可以减少模型的Bias。但是，这样学习到的模型，很可能会失去一定的泛化能力，从而造成过拟合，降低模型在真实数据上的表现，增加模型的不确定性。相反，如果更加相信我们对于模型的先验知识，在学习模型的过程中对模型增加更多的限制，就可以降低模型的variance，提高模型的稳定性，但也会使模型的Bias增大。Bias与Variance两者之间的trade-off是机器学习的基本主题之一，机会可以在各种机器模型中发现它的影子。具体到K-fold Cross Validation的场景，其实是很好的理解的。首先看Variance的变化，还是举打靶的例子。假设我把抢瞄准在10环，虽然每一次射击都有偏差，但是这个偏差的方向是随机的，也就是有可能向上，也有可能向下。那么试验次数越多，应该上下的次数越接近，那么我们把所有射击的目标取一个平均值，也应该离中心更加接近。更加微观的分析，模型的预测值与期望产生较大偏差，在模型固定的情况下，原因还是出在数据上，比如说产生了某一些异常点。在最极端情况下，我们假设只有一个点是异常的，如果只训练一个模型，那么这个点会对整个模型带来影响，使得学习出的模型具有很大的variance。但是如果采用k-fold Cross Validation进行训练，只有1个模型会受到这个异常数据的影响，而其余k-1个模型都是正常的。在平均之后，这个异常数据的影响就大大减少了。相比之下，模型的bias是可以直接建模的，只需要保证模型在训练样本上训练误差最小就可以保证bias比较小，而要达到这个目的，就必须是用所有数据一起训练，才能达到模型的最优解。因此，k-fold Cross Validation的目标函数破坏了前面的情形，所以模型的Bias必然要会增大。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTI4ODU1Nw_size_16_color_FFFFFF_t_70]

# 2 [判断模型是过拟合还是欠拟合–学习曲线][Link 1] #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTI4ODU1Nw_size_16_color_FFFFFF_t_70 1]  
当训练集和测试集的误差收敛但却很高时，为高偏差。  
**左上角的偏差很高，训练集和验证集的准确率都很低，很可能是`欠拟合`。**  
我们可以增加模型参数，比如，构建更多的特征，减小正则项。  
此时通过增加数据量是不起作用的。

当训练集和测试集的误差之间有大的差距时，为高方差。  
当训练集的准确率比其他独立数据集上的测试结果的准确率要高时，一般都是过拟合。  
**右上角方差很高，训练集和验证集的准确率相差太多，应该是`过拟合`。**  
我们可以增大训练集，降低模型复杂度，增大正则项，或者通过特征选择减少特征数。

理想情况是是找到偏差和方差都很小的情况，即收敛且误差较小。

[https_www.zhihu.com_question_27068705]: https://www.zhihu.com/question/27068705
[https_zhuanlan.zhihu.com_p_44872686]: https://zhuanlan.zhihu.com/p/44872686
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTI4ODU1Nw_size_16_color_FFFFFF_t_70]: /images/20220829/6c7e85e6e85149118c27929a2d79ee64.png
[Link 1]: https://www.cnblogs.com/nolonely/p/7382287.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NTI4ODU1Nw_size_16_color_FFFFFF_t_70 1]: /images/20220829/06e8dcb117da463ca0a742aa2c39e320.png