李宏毅机器学习课程---3、Where does the error come from

喜欢ヅ旅行 2021-11-05 01:46 305阅读 0赞

# 李宏毅机器学习课程---3、Where does the error come from #

## 一、总结 ##

### 一句话总结：机器学习的模型中error的来源是什么 ###

##### bias：比如打靶，你的瞄准点离准心的偏移 #####

##### variance：比如打靶，你的实际打靶的位置 偏离你的瞄准点的距离：相当于方差 #####

### 1、机器学习中为什么需要判断error的来源？ ###

##### 有的放矢，改进模型：因为你的模型出错，你肯定需要改进模型，知道错误来源后才方便改进模型 #####

### 2、做多次实验，一次函数和多次函数的函数在图上如何分布？ ###

##### 多次函数在多次实验中分布的线比较开 #####

### 3、简单model和复杂model，bias和variance的大小情况如何？ ###

##### 简单模型：Large Bias，Small Variance #####

##### 复杂模型：Small Bias，Large Variance #####

### 4、bias和variance分别很大的时候叫什么？ ###

##### Underfitting：Large Bias：under说明小了，还要继续提升模型复杂度 #####

##### Overfitting：Large Variance：over说明模型过渡复杂了 #####

### 5、我怎么知道我模型是bias很大（Underfitting）？ ###

##### 不能满足training data：If your model cannot even fit the training examples, then you have large bias #####

### 6、我怎么知道我模型是variance很大（Overfitting）？ ###

##### 不能满足testing data：If you can fit the training data, but large error on testing data, then you probably have large variance #####

### 7、如果我模型的bias很大（Underfitting），我应该怎么做？ ###

##### 重新设计模型：比如考虑更多参数 #####

##### 更多数据没用：因为你的模型本身就不好，所以更多数据其实是没用的 #####

For bias, redesign your model:  
• Add more features as input  
• A more complex model

### 8、如果我模型的variance很大（Overfitting），我应该怎么做？ ###

##### More data：增加数据：Very effective, but not always practical #####

##### Regularization：平滑化：没用更多数据的情况：可能伤害bias #####

### 9、我们怎样选择模型？ ###

##### 相互转换：There is usually a trade-off between bias and variance. #####

##### 相当于和更小：Select a model that balances two kinds of error to minimize total error #####

### 10、我们选择好了模型之后，用自己的测试数据测试之后，外部的测试数据测试的结果一般会比我们的测试结果大么？ ###

##### 一般都会比我们的测试结果大 #####

### 11、我们应该如何验证我们的模型？ ###

##### 数据分多份：测试数据1，模型完了之后再用； 测试数据2，选模型的时候再用； 数据3，构建模型的时候用 #####

##### 一定留一份data做 private data，模拟实际用户使用的时候的情况 #####

## 二、内容在总结中 ##

转载于:https://www.cnblogs.com/Renyi-Fan/p/10965548.html

发表评论取消回复

表情：

评论列表（有 0 条评论，305人围观）

还没有评论，来说两句吧...

相关阅读

相关李宏毅-深度学习Note（目录）

李宏毅-深度学习Note 视频链接：[机器学习-李宏毅(2019) Machine Learning ][-_2019_ Machine Learning] 参考：[李

快来打我*/ 2023年06月01日 11:08/ 0 赞/ 12 阅读

相关李宏毅机器学习—读书笔记

[李宏毅机器学习笔记(LeeML-Notes)][LeeML-Notes] [leeml-notes][] 机器学习人工智慧（Artificial Intelli

╰+哭是因爲堅強的太久メ/ 2023年01月23日 10:49/ 0 赞/ 164 阅读

相关【李宏毅机器学习特训营】作业5 迁移学习

本作业的任务是迁移学习中的领域对抗性训练(Domain Adversarial Training)。 ![在这里插入图片描述][watermark_type_ZmFuZ3

川长思鸟来/ 2023年01月13日 10:52/ 0 赞/ 144 阅读

相关免费李宏毅《机器学习》实践研讨课！

![8cb68368c1a1869ee42de27c7bb2786e.png][] 人工智能来势汹汹，学习人工智能该从哪里开始呢？人工智能的学习路径又是怎样的？须知

小咪咪/ 2022年10月23日 06:58/ 0 赞/ 9 阅读

相关【组队学习】【30期】李宏毅机器学习（含深度学习）

[李宏毅机器学习（含深度学习）][Link 1] 航路开辟者：王茂霖、陈安东，刘峥嵘，李玲领航员：初晓宇航海士：王茂霖基本信息开源

小鱼儿/ 2022年09月16日 14:18/ 0 赞/ 204 阅读

相关【台大李宏毅ML课程】Lecture 3 Gradient Descent笔记

（感谢李宏毅老师，所有图片来自于老师的课件） Lecture 3 Gradient Descent 本讲主要讲了解决最优化问题用到的梯度下降的方法，以及对梯度下降法的一

小鱼儿/ 2022年05月31日 05:57/ 0 赞/ 190 阅读

相关李宏毅机器学习课程---1、机器学习介绍

李宏毅机器学习课程---1、机器学习介绍一、总结一句话总结：实际数据需求：机器学习根据不同的实际数据情况选择不同的机器学习方法输入到输

曾经终败给现在/ 2022年01月06日 23:07/ 0 赞/ 368 阅读

相关李宏毅机器学习课程---3、Where does the error come from

李宏毅机器学习课程---3、Where does the error come from 一、总结一句话总结：机器学习的模型中error的来源是什么 bi

喜欢ヅ旅行/ 2021年11月05日 01:46/ 0 赞/ 306 阅读

相关李宏毅机器学习课程笔记Lesson4-Classification

输入x ,通过一个函数，得到该x所属的类别 x -> function ->class n 例如银行贷款：输入：用户的收入、存款等、工作、信用、年龄等输出：

矫情吗；*/ 2021年09月26日 18:16/ 0 赞/ 297 阅读

相关李宏毅机器学习课程笔记Lesson1-Regression - Case Study

machine learning 有三个步骤： step 1 ：选择 a set of function, 即选择一个 model ![这里写图片描述][70] s

╰半橙微兮°/ 2021年09月26日 18:14/ 0 赞/ 321 阅读