决策树的可视化输出

墨蓝 2021-10-24 03:54 413阅读 0赞

前面的博客里有提到决策树，我们也了解了决策树的构建过程，如果可以可视化决策树，把决策树打印出来，对我们理解决策树的构建会有很大的帮助。这篇文章中，我们就来看下如何可视化输出一棵决策树。

一、安装相应的插件

我们需要安装Graphviz和pygraphviz，[教程][Link 1]，这个教程里有详细的安装过程，这里就不赘述了。

二、运行实例

我们依然以iris数据集为例，打印输出决策树看下效果。

1.   
    
    \#coding=utf-8
2.   
    
    import numpy as np
3.   
    
    import pandas as pd
4.   
    
    import pydotplus
5.   
    
    def lrisTrain():
6.   
    
    \#预处理-引入鸢尾数据：
7.   
    
    from sklearn.datasets import load\_iris
8.   
    
    iris = load\_iris()
9.   
    
     
10.  
    
    from sklearn.cross\_validation import train\_test\_split
11.  
    
    \# 把数据分为测试数据和验证数据
12.  
    
    train\_data,test\_data,train\_target,test\_target=train\_test\_split(iris.data,iris.target,test\_size= 0.2,random\_state=1)
13.  
    
    \#Model(建模)-引入决策树
14.  
    
    from sklearn import tree
15.  
    
    \#建立一个分类器
16.  
    
    clf = tree.DecisionTreeClassifier(criterion= "entropy")
17.  
    
    \#训练集进行训练
18.  
    
    clf.fit(train\_data,train\_target)
19.  
    
    \#画图方法1-生成dot文件
20.  
    
    with open('treeone.dot', 'w') as f:
21.  
    
    dot\_data = tree.export\_graphviz(clf, out\_file= None)
22.  
    
    f.write(dot\_data)
23.  
    
     
24.  
    
    \#画图方法2-生成pdf文件
25.  
    
    dot\_data = tree.export\_graphviz(clf, out\_file= None,feature\_names=clf.feature\_importances\_,
26.  
    
    filled= True, rounded=True, special\_characters=True)
27.  
    
    graph = pydotplus.graph\_from\_dot\_data(dot\_data)
28.  
    
    \#\#\#保存图像到pdf文件
29.  
    
    graph.write\_pdf( "treetwo.pdf")
30.  
    
     
31.  
    
    \#进行预测
32.  
    
    y\_pred = clf.predict(test\_data)
33.  
    
     
34.  
    
    \#Verify(验证)
35.  
    
    \#引入模块
36.  
    
    from sklearn import metrics
37.  
    
    \#法一：通过准确率进行验证
38.  
    
    print(metrics.accuracy\_score(y\_true =test\_target,y\_pred=y\_pred))
39.  
    
    \#法二：通过混淆矩阵验证（横轴：实际值，纵轴：预测值）（理想情况下是个对角阵）
40.  
    
    \#print(metrics.confusion\_matrix(y\_true=test\_target,y\_pred=y\_pred))
41.  
    
    lrisTrain()

三、输出结果

上述的两个方法将会产生两个文件，一个是dot文件，我们打开这个dot文件，得到的是决策树生成的文本结构信息：

![20180411221706708][]

如何把它转换成树的图形结构呢？

打开一个黑窗口（cmd,Anaconda prompt...都可以），先定位到生成的决策树 treeone.dot 所在的路径下，然后输入命令行：dot -Tpdf treeone.dot -o treeone.pdf ,这样就把名为treeone.dot文件在当前目录下编译生成了treeone.pdf文件，打开后效果如下：

![2018041122153325][]

生成的第二个文件treetwo.pdf就可以直接打开了，效果如下：

![20180411221825586][]

我们生成决策树就是调用了export\_graphviz函数，这个函数有很多参数值，可以通过设置这些参数值，控制生成节点上的输出信息，大家可以根据自己的需求设置参数。

小结：我们这里是用sklearn中的DecisionTreeClassifier进行分类的，构建模型的时候只用到了这一棵决策树。后面我们会将到集成学习算法xgboost算法中决策树的可视化，xgboost是直接用它自己封装的plot\_tree这个类来进行输出，不需要单独安装插件，反而更加容易可视化输出决策树。

转载于:https://www.cnblogs.com/lvdongjie/p/11377313.html

[Link 1]: https://blog.csdn.net/u013250416/article/details/72790754
[20180411221706708]: /images/20211023/741078304ff244438a563f62b9ae259c.png
[2018041122153325]: /images/20211023/0c6d1f3755e344aa83eb29a085591260.png
[20180411221825586]: /images/20211023/d3b17de0839e45f68a5da1ff308f7c4d.png