Datawhale-数据分析-Task05 数据建模及模型评估

「爱情、让人受尽委屈。」 2022-12-01 15:48 145阅读 0赞

## 特征工程 ##

### 缺失值填充 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center]

### 编码分类变量 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 1]

## 模型搭建 ##

处理完前面的数据我们就得到建模数据，下一步是选择合适模型  
在进行模型选择之前我们需要先知道数据集最终是进行监督学习还是无监督学习  
除了根据我们任务来选择模型外，还可以根据数据样本量以及特征的稀疏性来决定  
刚开始我们总是先尝试使用一个基本的模型来作为其baseline，进而再训练其他模型做对比，最终选择泛化能力或性能比较好的模型

### 切割训练集和测试集 ###

按比例切割训练集和测试集(一般测试集的比例有30%、25%、20%、15%和10%)  
按目标变量分层进行等比切割  
设置随机种子以便结果能复现![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 2]

### 模型创建 ###

创建基于线性模型的分类模型（逻辑回归）  
创建基于树的分类模型（决策树、随机森林）  
查看模型的参数，并更改参数值，观察模型变化

为什么线性模型可以进行分类任务，背后是怎么的数学关系  
答：因为线性模型即逻辑回归可以通过在一个线性函数上下进行两个类别的判别。

对于多分类问题，线性模型是怎么进行分类的  
答：使用Softmax函数进行多分类。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 3]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 4]

### 输出模型预测结果 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 5]  
这样可以清楚哪个标签预测概率更高。

## 模型评估 ##

### 交叉验证 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 6]

### 混淆矩阵 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 7]

### ROC曲线 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 8]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 9]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/da5e18e7b6b648dfa2cead410b222eac.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/9bf34d173fee43f3a65bdfeebcd5009d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221123/d08fa54923d741d5ac720294565c5030.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221123/f5d30b805dca46548066acde6baa1088.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20221123/fb6f2764f26547958a2fd209f758dfd8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20221123/735c3c6e895047a49ff51a16961a2f55.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20221123/874903eb3e8b4ac8ba08e97f029caa7a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 7]: /images/20221123/8741c4697d72480fbc2bfe4ee3b5f7d2.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 8]: /images/20221123/b0eb22e2929a4a06bd1aa805ad260796.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2thcnJ5X3p6ag_size_16_color_FFFFFF_t_70_pic_center 9]: /images/20221123/f89136fdb9a94f7fab3c3ccb3b1ee724.png