基于Python的信用卡交易欺诈检测预测模型

冷不防 2024-03-01 08:42 26阅读 0赞

目录  
第一章 引言 3  
1.1研究背景及意义 3  
1.2研究现状 3  
1.3行文思路及框架 4  
第二章 数据探索性分析 6  
2.1目标变量 6  
2.2特征分布 6  
2.3特征与标签相关性分析 8  
2.4离群点分析 9  
第三章 数据预处理与特征工程 10  
3.1数据预处理 10  
3.2特征工程 10  
3.3特征选择-PIMP 12  
第四章 异常点检测办法 14  
4.1孤立森林算法简介 14  
4.2实验验证 15  
4.3异常点检测的使用建议 16  
第五章模型设计与分析 17  
5.1LightGBM 17  
5.1.1LightGBM 原理 17  
5.1.2模型优化思路 17  
5.1.3实验结果 18  
5.2神经网络 20  
5.2.1神经网络原理 20  
5.2.2神经网络搭建 21  
5.2.3实验结果 22  
5.3Catboost 22  
5.3.1Catboost 原理 22  
5.3.2实验结果 22  
5.4Logistic 回归 23  
5.4.1Logistic 回归原理 23  
5.4.2实验结果 24  
5.5模型运行时间对比 24  
5.6模型的融合示意图 25  
总结 26  
参考文献 27  
集成学习通过集成多个分类器，来避免单个分类器对不平衡数据分类预测造成的偏差  
\[12\]，文献\[13\]提出在自适应增强模型（Adaptive Boosting， AdaBoost） 每次迭代中引 入 SMOTE 的 SMOTEBoost 算法，文献\[14\]提出在 AdaBoost 每 次 迭 代 中 引 入 随机 欠 采 样 （Random Under-Samplingmethod， RUS）的 RUSBoosts 算法。代价敏感学习是在算法迭代过程中，设置少数类被错分时具有较高的代价损失\[15\]，通常与集成 学习算法组合使用。代价敏感方法只是在算法层次进行了修改，没有增加算法的开销， 效率较高，有效提高了不平衡数据的分类效果，但是由于主观引入代价敏感损失，损失 函数的设计会影响算法的迭代效果，普遍适用性较弱。莫赞等人基于对抗生成网络和集 成学习方法，提出了一种新的针对二类不平衡数据集的分类方法——对抗生成网络-自 适应增强- 决策树（ Generative Adversarial Nets- Adaptive Boosting-Decision Tree ， GAN-AdaBoost-DT）算法对于信用卡欺诈样本的评判准确性得到 4.5%的提升。Maira Anis 针对信用卡欺诈的不平衡性使用了一种以马氏距离为中心的新的相似性测量方法。这种 相似性测量与传统的最近邻度量不同:新方法使用以数据为中心的方法来寻找关键样本， 而其他固定重采样技术则使用以数据质心为中心的协方差矩阵进行相似性度量，新的重 采样方法是可靠的，在处理具有高召回率的不均衡信用卡数据是有效的。  
1.3行文思路及框架

本文对信用卡交易过程的中的欺诈行为进行预测，使用 AURPC 作为评估模型对欺诈概率的预测的效果。主要经过数据探索、特征工程、异常点检验、模型建立、模型评  
![在这里插入图片描述][f7beedebb0ae491fb397fba8c5693c3e.png]

估的过程完成文章报告的撰写。整体的框架如下图 1.1 所示。

from sklearn.ensemble import IsolationForest
    import numpy as np
    import pandas  as pd
    
    data = pd.read_csv('高端客户流失数据.csv',encoding='GBK')
    
    #查看label类别分别
    print(data['是否流失'].value_counts())
    
    #分离特征与label
    feats = [feat for feat in data.columns if feat not in ['是否流失']]
    X = data[feats]
    y = data['是否流失']
    
    #模型训练 第二个参数可以权衡查准与召回
    clf = IsolationForest(n_estimators=50,contamination=0.8,random_state=0)
    clf.fit(data[feats])
    train_pre = clf.predict(data[feats])
    
    data['预测label']=train_pre
    
    #流失 预测流失 个数
    TP = data[(data['是否流失']==1)&(data['预测label']==-1)].shape[0]
    #未流失 预测未流失
    TN = data[(data['是否流失']==0)&(data['预测label']==1)].shape[0]
    #流失 预测未流失
    FN = data[(data['是否流失']==1)&(data['预测label']==1)].shape[0]
    #未流失 预测流失
    FP = data[(data['是否流失']==0)&(data['预测label']==-1)].shape[0]
    
    #召回率 R=TP/TP+FN 查准率 P =TP/TP+FP

![在这里插入图片描述][06864cb2c05245e59239ad8145cb8af1.png_pic_center]  
![在这里插入图片描述][a5148029696e49dfbe4c4260da7136ab.png_pic_center]  
![在这里插入图片描述][3129859d06b7431c82346c2c85087c04.png_pic_center]  
![在这里插入图片描述][001948c1844c444d9646e8cfd72cbdba.png_pic_center]  
![在这里插入图片描述][967fad2bf6ab4525a1983d066c07b704.png_pic_center]  
![在这里插入图片描述][4db61a7107ce42a2bee866905affec43.png_pic_center]  
![在这里插入图片描述][ca1edfbef2344a4e8ec28ebdd5d7d8b1.png_pic_center]  
![在这里插入图片描述][61388881eb8140e298593d398c6b4a72.png_pic_center]  
![在这里插入图片描述][2ef0408360b345c6a8fc845cc05af794.png_pic_center]  
![在这里插入图片描述][ce3fdf414c8d4b1ea168504536830ef7.png_pic_center]  
![在这里插入图片描述][63d54bfacaf14655b8e099c95ae78a34.png_pic_center]  
![在这里插入图片描述][43db584133f049c2849755ff41e4e417.png_pic_center]  
![在这里插入图片描述][bf148f4879254a46905264daf7c0b5e9.png_pic_center]  
![在这里插入图片描述][ae2292f59c954477a9f80d82d18caced.png_pic_center]  
![在这里插入图片描述][cee7b9683ea342afbfe0fa91914a9b13.png_pic_center]  
![在这里插入图片描述][18e3d249e4314bb58546698a8afde514.png_pic_center]  
![在这里插入图片描述][061aadda05d64411a21926c7a8c49df5.png_pic_center]  
![在这里插入图片描述][c39041d212f24dd1a29a10413a63cf10.png_pic_center]  
![在这里插入图片描述][2bf6fc6ebba54dc7b034d76a101f3fbb.png_pic_center]  
![在这里插入图片描述][ba2ef0ccf98048e6bbc2bf04016c18a9.png_pic_center]  
![在这里插入图片描述][eed0d78c067948aa9a1b797b9b45c7d0.png_pic_center]  
![在这里插入图片描述][ab686607a0a748d8a3935aa099328646.png_pic_center]  
![在这里插入图片描述][3a17ada19c774308b2edc50571fbddae.png_pic_center]  
![在这里插入图片描述][565ea6fb93ee43f2b10635eff6865727.png_pic_center]  
![在这里插入图片描述][afc1d62fe67540839e2c4f67709f32af.png_pic_center]  
![在这里插入图片描述][5f0aa9da3488445a91ce61ea2e93ef61.png_pic_center]  
![在这里插入图片描述][7623ccb109d74f7f9caba166e16b869f.png_pic_center]  
![在这里插入图片描述][d4f74a16a5dc42b68cfd1a686d712a8f.png_pic_center]  
![在这里插入图片描述][c94e9320a6c34418bf905d5db3ab2927.png_pic_center]  
![在这里插入图片描述][d39e9a4f925144e483c853c041809e1a.png_pic_center]  
![在这里插入图片描述][aaa399b0dc2049e8adb6c1ae7937205e.png_pic_center]  
![在这里插入图片描述][e50277795b214f3bb94465ccd82583bc.png_pic_center]  
![在这里插入图片描述][d7a9761a83ed4fc09d59be73780fb502.png_pic_center]  
![在这里插入图片描述][786c225822254ad2a9c2718b7a0bbd41.png_pic_center]  
![在这里插入图片描述][5aeaba87b248468fbdb1f15e604d941c.png_pic_center]  
![在这里插入图片描述][8a4333a9c22d4d8b89d7abd63494330d.jpeg_pic_center]  
![在这里插入图片描述][167bd3e5598d4681a6be0f375dbfb038.png_pic_center]  
![在这里插入图片描述][2131db7d6a7c45e2a536936e1d560fc4.png_pic_center]  
![在这里插入图片描述][d841b266c8a6418d9e7fd649939cc3a2.png_pic_center]  
![在这里插入图片描述][00700249c27d453cb2ee5a2e21a5e52d.jpeg_pic_center]  
![在这里插入图片描述][df2722f416b2491b902c7f79eaa8ca4b.jpeg_pic_center]  
![在这里插入图片描述][b763c5bd0fe24473a47e76b838b1bd5a.png_pic_center]  
![在这里插入图片描述][c822d05d9b3d4f788abcba4a8c1c956e.png_pic_center]  
![在这里插入图片描述][89a17ffc7f0e410092471b7d49c39de7.jpeg_pic_center]  
![在这里插入图片描述][8d30ec0c47f9419eb3cab2253e4bb2d1.png_pic_center]  
![在这里插入图片描述][dee1d92a3daf4c2897b65676139947cb.jpeg_pic_center]  
![在这里插入图片描述][1bdba1f2a21641dbb19f55b4348e1f2d.jpeg_pic_center]  
![在这里插入图片描述][1f87ec890a6f4bb881fe6621dd5433c7.png_pic_center]  
![在这里插入图片描述][cb3d66f891914793921703ff7c45ed9c.jpeg_pic_center]  
![在这里插入图片描述][6ab9262d913a43c7afb1b5cca31f98b3.jpeg_pic_center]  
![在这里插入图片描述][c3934a5aa195444fac0e2bb649ddcef1.png_pic_center]  
![在这里插入图片描述][30f62e0733e745a8ae0ddf4f45977aae.png_pic_center]

[f7beedebb0ae491fb397fba8c5693c3e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/60c1c502ae6649259e569735fc57665c.png
[06864cb2c05245e59239ad8145cb8af1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/b832335b262d4df9832d44ec1096a7c7.png
[a5148029696e49dfbe4c4260da7136ab.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/f3591898af154a92b8a446cdf8d676f4.png
[3129859d06b7431c82346c2c85087c04.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/6510543ff6a54ffa83785598362af258.png
[001948c1844c444d9646e8cfd72cbdba.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/b01ecc11272848df8955209b2b420163.png
[967fad2bf6ab4525a1983d066c07b704.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/7f69137b194f44958a79cece09d720db.png
[4db61a7107ce42a2bee866905affec43.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/1464b343a9804080a7d519581098e60d.png
[ca1edfbef2344a4e8ec28ebdd5d7d8b1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/4a965d087fd74202af65a790008f2e98.png
[61388881eb8140e298593d398c6b4a72.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/0d4f4dcf74924dc1985cf1582d91529f.png
[2ef0408360b345c6a8fc845cc05af794.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/d8b9defee1ee40a8baf477f2f14c6da5.png
[ce3fdf414c8d4b1ea168504536830ef7.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/a069e79cf2f146fdbfd110fdb866b20e.png
[63d54bfacaf14655b8e099c95ae78a34.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/a83eb95eff884b1190b86123ab037a00.png
[43db584133f049c2849755ff41e4e417.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/6cde010f109b4f608d96fac7d9667c96.png
[bf148f4879254a46905264daf7c0b5e9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/0aad5a8416db4d9aad3bb5a3f80937ea.png
[ae2292f59c954477a9f80d82d18caced.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/54a3de73bb784c5fbca5f7d5dfee5033.png
[cee7b9683ea342afbfe0fa91914a9b13.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/ee1937e0d3d44475b28f074cf4965406.png
[18e3d249e4314bb58546698a8afde514.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/8efedc8cc96f435d992f0d97d737dd5e.png
[061aadda05d64411a21926c7a8c49df5.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/b0793fae97c447799c17118b5f2ba6d0.png
[c39041d212f24dd1a29a10413a63cf10.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/7b955cb992094630a421b84352d517d7.png
[2bf6fc6ebba54dc7b034d76a101f3fbb.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/a1df1a98e4a74cad91328a73e94d4496.png
[ba2ef0ccf98048e6bbc2bf04016c18a9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/b114b35ef97944c187014e7a10f33c56.png
[eed0d78c067948aa9a1b797b9b45c7d0.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/91cd717883804f6fa13724f31449978b.png
[ab686607a0a748d8a3935aa099328646.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/5c9c23ece987421cbe1284044e99cfc4.png
[3a17ada19c774308b2edc50571fbddae.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/a17671312d894b5c87df0423f2db05e8.png
[565ea6fb93ee43f2b10635eff6865727.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/3074e0135a5148c792b78484016f85c8.png
[afc1d62fe67540839e2c4f67709f32af.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/6dbaf1bbbe1e4b729694eed1c8f33d9c.png
[5f0aa9da3488445a91ce61ea2e93ef61.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/1a496c4b8df84ee99e6f0945f04c5fff.png
[7623ccb109d74f7f9caba166e16b869f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/a26cb74284ca4555bb5b6b6789106820.png
[d4f74a16a5dc42b68cfd1a686d712a8f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/78b3f29dd2a247a7855b6cde548cf7f9.png
[c94e9320a6c34418bf905d5db3ab2927.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/698906b4e8584ee2af059fd26b342bff.png
[d39e9a4f925144e483c853c041809e1a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/c379a68f58e04cdaafd7867271d98b5b.png
[aaa399b0dc2049e8adb6c1ae7937205e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/691e2b0938c14430b8fed10a0da3d44e.png
[e50277795b214f3bb94465ccd82583bc.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/2a11624d10574853b904d5779c1626c8.png
[d7a9761a83ed4fc09d59be73780fb502.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/1540b46796b04be7a151c74e1b9b4922.png
[786c225822254ad2a9c2718b7a0bbd41.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/6d9454bbfacb47d1bec58d622e2a876b.png
[5aeaba87b248468fbdb1f15e604d941c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/528b8178edd14823b42a4ea33137a241.png
[8a4333a9c22d4d8b89d7abd63494330d.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/f3d3efe061c049f69a622d2b4c8cebc1.png
[167bd3e5598d4681a6be0f375dbfb038.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/7f33751f6a184feebdbcde78998d7e1d.png
[2131db7d6a7c45e2a536936e1d560fc4.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/4b197d7d8df44e74af2c0faeffbf3c8d.png
[d841b266c8a6418d9e7fd649939cc3a2.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/ad0cb3cd2fea436f8f1ca75beb1bf50e.png
[00700249c27d453cb2ee5a2e21a5e52d.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/63be8f1d2cf3461cb800029252deb511.png
[df2722f416b2491b902c7f79eaa8ca4b.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/2c12a9bc6e184b578fd3b7c7ba7faa92.png
[b763c5bd0fe24473a47e76b838b1bd5a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/ebd1454f52404ceeba125813eeee7084.png
[c822d05d9b3d4f788abcba4a8c1c956e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/19667808881c4a038f523aaf709b2590.png
[89a17ffc7f0e410092471b7d49c39de7.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/9ad5d36f86e3454cb48daf09e0f5a55e.png
[8d30ec0c47f9419eb3cab2253e4bb2d1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/15a353922e1b4de9885d75b55c758206.png
[dee1d92a3daf4c2897b65676139947cb.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/4594a2ea67ad41048f71f1b33b0f5d6d.png
[1bdba1f2a21641dbb19f55b4348e1f2d.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/6cb17355b7b342e0966c400ede96ed89.png
[1f87ec890a6f4bb881fe6621dd5433c7.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/533422139fcf4f09a74affe94f5086d0.png
[cb3d66f891914793921703ff7c45ed9c.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/2b2175df39b84bd1aa41bf4f10d00e88.png
[6ab9262d913a43c7afb1b5cca31f98b3.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/5b725dc5c1d14b43a2e51bb06802a9e0.png
[c3934a5aa195444fac0e2bb649ddcef1.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/291a7124b1e444769f0802292500c851.png
[30f62e0733e745a8ae0ddf4f45977aae.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/01/48377f02983d4f409e3e39686ee841de.png