风控项目06---评分卡模型构建

迈不过友情╰ 2022-12-28 14:24 172阅读 0赞

### 这里写目录标题 ###

*   *  一： 模型构建流程：
     *   *  1.1： 实验设计：
         *  1.2: 样本设计：
         *  1.3： 模型的训练与评估：
     *  二： 逻辑回归评分卡：
     *   *  2.1： 逻辑回归评分卡的数理逻辑：
         *  2.2：逻辑回归的实操：
         *   *  2.2.1: 模型训练：
             *  2.2.2: 模型评估：
             *  2.2.3: 使用lightgbm进行特征筛选：
             *  2.2.4: 模型的优化，去掉不重要的特征，重新建模：
             *  2.2.5: 生成报告：
             *  2.2.6: Pyecharts绘图,绘制负样本占比和KS值,观察模型表现：
     *  三：集成学习评分卡：
     *  四：整体流程梳理：

## 一： 模型构建流程： ##

### 1.1： 实验设计： ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70]

### 1.2: 样本设计： ###

1： 设计样本的观察期和表现期：  
![在这里插入图片描述][20201217214402743.png]  
2：还款状态和DPD一起刻画了用户的逾期情况：  
![在这里插入图片描述][2020121721451775.png]  
**A卡 申请新客 B卡未逾期老客 C卡 逾期老客**  
当前逾期：**出现逾期且到观测点为止未还清 NA，PA**  
历史逾期：**曾经出现过逾期已还清或当前逾期 FA，NA，PA**

案例分析：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 1]

### 1.3： 模型的训练与评估： ###

训练— 机器学习模型：  
评估—  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 2]

## 二： 逻辑回归评分卡： ##

### 2.1： 逻辑回归评分卡的数理逻辑： ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 3]

### 2.2：逻辑回归的实操： ###

#### 2.2.1: 模型训练： ####

1：加载数据：

import pandas as pd
    from sklearn.metrics import roc_auc_score,roc_curve,auc
    from sklearn.model_selection import train_test_split 
    from sklearn import metrics 
    from sklearn.linear_model import LogisticRegression
    import numpy as np 
    import random
    import math

data = pd.read_csv('data/Bcard.txt') 
    data.info()

2：了解我们的数据列：  
obs\_month: 申请日期所在月份的最后一天(数据经过处理,将日期都处理成当月最后一天)  
注意：这个数据是经过处理了，里面只有每个月最后一天的日期。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 4]  
3：看一下月份分布,用最后一个月做为跨时间验证集:  
![在这里插入图片描述][20201218085847599.png]

4: 划分测试数据和验证数据：

# 取出18年11月30日的作为测试集，其余的作为验证集
    train = data[data.obs_mth != '2018-11-30'].reset_index().copy() 
    val = data[data.obs_mth == '2018-11-30'].reset_index().copy()

5：取出建模要用的特征：

#info结尾的是自己做的无监督系统输出的个人表现，score结尾的是收费的外部征信数据
    feature_lst = ['person_info','finance_info','credit_info','act_info','td_score','jxl_score','mj_score','rh_score']

6： 训练建模：

x = train[feature_lst] # 特征列
    y = train['bad_ind'] # 标签列
    
    val_x = val[feature_lst] # 测试集的特征列
    val_y = val['bad_ind'] # 测试集的特征列
    
    lr_model = LogisticRegression(C=0.1) # 定义一个逻辑回归
    lr_model.fit(x,y) # 对训练集进行训练

#### 2.2.2: 模型评估： ####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 5]

1：了解逻辑回归中的predict\_proba()函数的作用：  
我们刚刚使用LogisticRegression进行一次逻辑回归，得到一个lr\_model 对象：  
我们发现predict\_proba(x)是将x（特征列传入进入），得到是一个二维数组。  
第一点：有多少样本就有多少列。  
第二点：每行是某个样本被预测某个标签的概率：例如这个第一列就是预测为0的概率，第二列就是预测为1的概率。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 6]  
2：计算训练集的KS值：

# 拿到每个样本被预测为1的概率，[:,1]指的是取第二列，第一列是被预测为0的概率。
    y_pred = lr_model.predict_proba(x)[:,1]
    
    # 取出训练集预测值 ，传入标签列和预测概率，得到我们的fpr 和 tpr
    fpr_lr_train,tpr_lr_train,_ = roc_curve(y,y_pred) 
    
    # 根据TPR和FPR计算我们的KS
    train_ks = abs(fpr_lr_train - tpr_lr_train).max() 
    
    print('train_ks : ',train_ks)

![在这里插入图片描述][2020121809530683.png]

2：计算验证集的KS值：

y_pred = lr_model.predict_proba(val_x)[:,1]#计算验证集预测值 
    fpr_lr,tpr_lr,_ = roc_curve(val_y,y_pred) #计算验证集预测值 
    val_ks = abs(fpr_lr - tpr_lr).max() #计算验证集KS值 
    print('val_ks : ',val_ks)

![在这里插入图片描述][20201218095420960.png]

3：绘制测试集和训练集的ROC曲线：

from matplotlib import pyplot as plt
    plt.plot(fpr_lr_train,tpr_lr_train,label = 'train LR') #绘制训练集ROC
    plt.plot(fpr_lr,tpr_lr,label = 'evl LR') #绘制验证集ROC 
    plt.plot([0,1],[0,1],'k--') 
    plt.xlabel('False positive rate')
    plt.ylabel('True positive rate') 
    plt.title('ROC Curve') 
    plt.legend(loc = 'best')
    plt.show()

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 7]

#### 2.2.3: 使用lightgbm进行特征筛选： ####

1： 安装 lightgbm：  
![在这里插入图片描述][2020121810105918.png]  
2：进行特征筛选：

# lightgbm版本 3.0.0 
    import lightgbm as lgb 
    from sklearn.model_selection import train_test_split 
    train_x,test_x,train_y,test_y = train_test_split(x,y,random_state=0,test_size=0.2) 
    def lgb_test(train_x,train_y,test_x,test_y):
        clf =lgb.LGBMClassifier(boosting_type = 'gbdt', 
                                objective = 'binary',
                                metric = 'auc', 
                                learning_rate = 0.1,
                                n_estimators = 24, 
                                max_depth = 5, 
                                num_leaves = 20,
                                max_bin = 45, 
                                min_data_in_leaf = 6,
                                bagging_fraction = 0.6, 
                                bagging_freq = 0,
                                feature_fraction = 0.8,
                               ) 
        clf.fit(train_x,train_y,eval_set = [(train_x,train_y),(test_x,test_y)],eval_metric = 'auc')
        return clf,clf.best_score_['valid_1']['auc'],
    lgb_model , lgb_auc = lgb_test(train_x,train_y,test_x,test_y) 
    feature_importance = pd.DataFrame({
        'name':lgb_model.booster_.feature_name(), 'importance':lgb_model.feature_importances_}).sort_values(by= ['importance'],ascending=False)

3： 查看特征的重要程度：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 8]

#### 2.2.4: 模型的优化，去掉不重要的特征，重新建模： ####

1： 代码：

#确定新的特征 
    feature_lst = ['person_info','finance_info','credit_info','act_info']
    
    x = train[feature_lst]
    y = train['bad_ind'] 
    val_x = val[feature_lst] 
    val_y = val['bad_ind']
    
    lr_model = LogisticRegression(C=0.1)
    lr_model.fit(x,y) 
    y_pred = lr_model.predict_proba(x)[:,1] 
    fpr_lr_train,tpr_lr_train,_ = roc_curve(y,y_pred)
    train_ks = abs(fpr_lr_train - tpr_lr_train).max()
    print('train_ks : ',train_ks) 
    
    
    y_pred = lr_model.predict_proba(val_x)[:,1] 
    fpr_lr,tpr_lr,_ = roc_curve(val_y,y_pred) 
    val_ks = abs(fpr_lr - tpr_lr).max()
    print('val_ks : ',val_ks) 
    
    
    from matplotlib import pyplot as plt
    plt.plot(fpr_lr_train,tpr_lr_train,label = 'train LR') 
    plt.plot(fpr_lr,tpr_lr,label = 'evl LR') 
    plt.plot([0,1],[0,1],'k--')
    plt.xlabel('False positive rate') 
    plt.ylabel('True positive rate') 
    plt.title('ROC Curve') 
    plt.legend(loc = 'best')
    plt.show()

3： 查看模型是否提升？  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 9]  
4： 查看相关系数：

# 系数
    print('变量名单：',feature_lst) 
    print('系数：',lr_model.coef_) 
    print('截距：',lr_model.intercept_)

![在这里插入图片描述][20201218102317653.png]

#### 2.2.5: 生成报告： ####

#准备数据 
    bins = 20 
    temp_ = pd.DataFrame()#创建空白DataFrame 
    temp_['bad_rate_predict'] = lr_model.predict_proba(val_x)[:,1]# 预测结果（坏人概率） 
    temp_['real_bad'] = val_y # 真实结果 
    temp_ = temp_.sort_values('bad_rate_predict',ascending = False)#按照预测坏人概率降序排列 
    temp_['num'] = [i for i in range(temp_.shape[0])] #添加序号列，用于分组 
    temp_['num'] = pd.cut(temp_.num,bins = bins,labels = [i for i in range(bins)])#分成20组，为每组添加组号 
    
    
    #创建报告 
    report = pd.DataFrame()#创建空白DataFrame 
    #计算每一组坏人数量 
    report['BAD'] = temp_.groupby('num').real_bad.sum().astype(int) 
    #计算每一组好人数量 
    report['GOOD'] = temp_.groupby('num').real_bad.count().astype(int)-report['BAD']
    #累计求和坏人数量 
    report['BAD_CNT'] = report['BAD'].cumsum() 
    #累计求和好人数量
    report['GOOD_CNT'] = report['GOOD'].cumsum() 
    good_total = report.GOOD_CNT.max()
    bad_total = report.BAD_CNT.max() 
    #计算到当前组坏人比例（占所有坏人比例） 
    report['BAD_PCTG'] = round(report.BAD_CNT/bad_total,3) 
    #计算当前组坏人概率 
    report['BADRATE'] =report.apply(lambda x: round(x.BAD/(x.BAD+x.GOOD),3),axis = 1) 
    #计算KS值 
    def cal_ks(x): 
        #当前箱累计坏人数量/总坏人数量 - 当前箱累计好人数量/好人数量 
        ks = (x.BAD_CNT/bad_total)-(x.GOOD_CNT/good_total) 
        return round(math.fabs(ks),3) 
    report['KS'] = report.apply(cal_ks,axis = 1) 
    report

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 10]

#### 2.2.6: Pyecharts绘图,绘制负样本占比和KS值,观察模型表现： ####

from pyecharts.charts import * 
    from pyecharts import options as opts
    from pylab import *
    mpl.rcParams['font.sans-serif'] = ['SimHei']
    np.set_printoptions(suppress=True) 
    pd.set_option('display.unicode.ambiguous_as_wide', True)
    pd.set_option('display.unicode.east_asian_width', True)
    line = ( 
        Line() 
        .add_xaxis(report.index.values.tolist())
        .add_yaxis( "分组坏人占比", list(report.BADRATE), yaxis_index=0, color="red", )
        .set_global_opts( title_opts=opts.TitleOpts(title="评分卡模型表现"), )
        .extend_axis( yaxis=opts.AxisOpts( name="KS值", type_="value", min_=0, max_=0.5, position="right",
        axisline_opts=opts.AxisLineOpts(
            linestyle_opts=opts.LineStyleOpts(color="red") 
        ),axislabel_opts=opts.LabelOpts(formatter="{value}"), 
                                         ) 
                    )
        .add_yaxis( "KS", list(report['KS']), yaxis_index=1, color="blue", label_opts=opts.LabelOpts(is_show=False), 
                  ) 
    )
    line.render_notebook()

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 11]

## 三：集成学习评分卡： ##

## 四：整体流程梳理： ##

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70]: /images/20221120/25bf8755229c48f9a778ac749eb6574b.png
[20201217214402743.png]: /images/20221120/6081b9fb84bd4c2d97a5192231de0a5e.png
[2020121721451775.png]: /images/20221120/5b49d1ba58904c7297d2950b3022c4e2.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 1]: /images/20221120/2334c0c6670348e9ba88048d0c6b140e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 2]: /images/20221120/c401bf6d43a84466a5a2fae85b11f384.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/2020121808434267.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20201218085611922.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[20201218085847599.png]: https://img-blog.csdnimg.cn/20201218085847599.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20201218091643142.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20201218094554586.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[2020121809530683.png]: https://img-blog.csdnimg.cn/2020121809530683.png
[20201218095420960.png]: https://img-blog.csdnimg.cn/20201218095420960.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 7]: https://img-blog.csdnimg.cn/20201218095625514.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[2020121810105918.png]: https://img-blog.csdnimg.cn/2020121810105918.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 8]: https://img-blog.csdnimg.cn/20201218101437801.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 9]: https://img-blog.csdnimg.cn/20201218102042937.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[20201218102317653.png]: https://img-blog.csdnimg.cn/20201218102317653.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 10]: https://img-blog.csdnimg.cn/20201218104741481.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3_size_16_color_FFFFFF_t_70 11]: https://img-blog.csdnimg.cn/20201218105342724.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxMzQxNzU3,size_16,color_FFFFFF,t_70