【机器学习】决策树算法整理

清疚 2022-06-03 02:36 646阅读 0赞

# 决策树 #

决策树是一种分类和回归的基本模型，可从三个角度来理解它，即：

*  一棵树
 *  if-then规则的集合，该集合是决策树上的所有从根节点到叶节点的路径的集合
 *  定义在特征空间与类空间上的条件概率分布，决策树实际上是将特征空间划分成了互不相交的单元，每个从根到叶的路径对应着一个单元。决策树所表示的条件概率分布由各个单元给定条件下类的条件概率分布组成。实际中，哪个类别有较高的条件概率，就把该单元中的实例强行划分为该类别。

主要的优点有两个：

*  模型具有可解释性，容易向业务部门人员描述。
 *  分类速度快

当然也有其他优点，决策树适用于数值型和标称型（离散型数据，变量的结果只在有限目标集中取值），能够读取数据集合，提取一些列数据中蕴含的规则。在分类问题中使用决策树模型有很多的优点，决策树计算复杂度不高、便于使用、而且高效，决策树可处理具有不相关特征的数据、可很容易地构造出易于理解的规则，而规则通常易于解释和理解。决策树模型也有一些缺点，比如处理缺失数据时的困难、过度拟合以及忽略数据集中属性之间的相关性等。

比如可以同时处理类别数据和数值数据。在运用分类决策树分类时，数据一般会进行离散化

# 如何学习一棵决策树？ #

决策树的学习本质上就是从训练数据集中归纳出一组分类规则，使它与训练数据矛盾较小的同时具有较强的泛华能力。从另一个角度看，学习也是基于训练数据集估计条件概率模型（至此，回答完了模型部分，下面接着说策略和算法）。  
决策树的损失函数通常是**正则化的极大似然函数**，学习的策略是以损失函数为目标函数的最小化（说完了策略，该说算法了）。

由于这个最小化问题是一个NP完全问题，现实中，我们通常采用启发式算法（这里，面试官可能会问什么是启发式算法，要有准备，SMO算法就是启发式算法）来近似求解这一最优化问题，得到的决策树是次最优的。

该启发式算法可分为三步：

*  特征选择
 *  模型生成
 *  决策树的剪枝

# 能具体谈谈这三个步骤吗？ #

**答：**从总体上看，这三个步骤就是一个递归地选择最优特征，并根据该特征对训练数据进行分割，使得对各个子数据集有一个最好的分类的过程，这个过程就是划分特征空间，构建决策树的过程。

*  **特征选择**：特征选择是指从训练数据中众多的特征中选择一个特征作为当前节点的分裂标准，如何选择特征有着很多不同量化评估标准标准，从而衍生出不同的决策树算法。
 *  **决策树生成**： 根据选择的特征评估标准，从上至下递归地生成子节点，直到数据集不可分则停止决策树停止生长。 树结构来说，递归结构是最容易理解的方式。
 *  **剪枝**：决策树容易过拟合，一般来需要剪枝，缩小树结构规模、缓解过拟合。剪枝技术有预剪枝和后剪枝两种。

### 如何选择最优特征呢？ ###

简单讲，根据特征的分类能力去选择最优特征，特征分类能力的衡量通常采用信息增益或信息增益比。

### 基于信息论的三种决策树算法 ###

划分数据集的最大原则是：使无序的数据变的有序。如果一个训练数据中有20个特征，那么选取哪个做划分依据？这就必须采用量化的方法来判断，量化划分方法有多重，其中一项就是“信息论度量信息分类”。基于信息论的决策树算法有ID3、CART和C4.5等算法，其中C4.5和CART两种算法从ID3算法中衍生而来。

CART和C4.5支持数据特征为连续分布时的处理，主要通过使用二元切分来处理连续型变量，即求一个特定的值-分裂值：特征值大于分裂值就走左子树，或者就走右子树。这个分裂值的选取的原则是使得划分后的子树中的“混乱程度”降低，具体到C4.5和CART算法则有不同的定义方式。

ID3算法由Ross Quinlan发明，建立在“奥卡姆剃刀”的基础上：越是小型的决策树越优于大的决策树（be simple简单理论）。**ID3算法中根据信息论的信息增益评估和选择特征**，每次选择信息增益最大的特征做判断模块。ID3算法可用于划分标称型数据集，没有剪枝的过程，为了去除过度数据匹配的问题，可通过裁剪合并相邻的无法产生大量信息增益的叶子节点（例如设置信息增益阀值）。使用信息增益的话其实是有一个缺点，那就是它偏向于具有大量值的属性--就是说在训练集中，某个属性所取的不同值的个数越多，那么越有可能拿它来作为分裂属性，而这样做有时候是没有意义的，另外ID3不能处理连续分布的数据特征，于是就有了C4.5算法。CART算法也支持连续分布的数据特征。

C4.5是ID3的一个改进算法，继承了ID3算法的优点。**C4.5算法用信息增益率来选择属性**，克服了用信息增益选择属性时偏向选择取值多的属性的不足在树构造过程中进行剪枝；能够完成对连续属性的离散化处理；能够对不完整数据进行处理。C4.5算法产生的分类规则易于理解、准确率较高；但效率低，因树构造过程中，需要对数据集进行多次的顺序扫描和排序。也是因为必须多次数据集扫描，C4.5只适合于能够驻留于内存的数据集。

CART算法的全称是Classification And Regression Tree，**采用的是Gini指数（选Gini指数最小的特征s）**作为分裂标准,同时它也是包含后剪枝操作。ID3算法和C4.5算法虽然在对训练样本集的学习中可以尽可能多地挖掘信息，但其生成的决策树分支较大，规模较大。为了简化决策树的规模，提高生成决策树的效率，就出现了根据GINI系数来选择测试属性的决策树算法CART。

# ID3算法的数学原理 #

前面已经提到C4.5和CART都是由ID3演化而来，这里就先详细阐述ID3算法，奠下基础。

## 1、ID3算法的信息论基础 ##

关于决策树的信息论基础可以参考“决策树1-建模过程”

（1）信息熵

信息熵：在概率论中，信息熵给了我们一种度量不确定性的方式，是用来衡量随机变量不确定性的，熵就是信息的期望值。若待分类的事物可能划分在N类中，分别是x1，x2，……，xn，每一种取到的概率分别是P1，P2，……，Pn，那么X的熵就定义为：

![20141214191529906][]，从定义中可知:0≤H(X)≤log(n)

当随机变量只取两个值时，即X的分布为 P(X=1)=p,X(X=0)=1−p,0≤p≤1则熵为:H(X)=−plog2(p)−(1−p)log2(1−p)。

熵值越高，则数据混合的种类越高，其蕴含的含义是一个变量可能的变化越多（反而跟变量具体的取值没有任何关系，只和值的种类多少以及发生概率有关），它携带的信息量就越大。熵在信息论中是一个非常重要的概念，很多机器学习的算法都会利用到这个概念。

(2)条件熵

假设有随机变量(X,Y)，其联合概率分布为:P(X=xi,Y=yi)=pij,i=1,2,⋯,n;j=1,2,⋯,m

则**条件熵(H(Y∣X))**表示在已知随机变量X的条件下随机变量Y的不确定性，其定义为X在给定条件下Y的条件概率分布的熵对X的数学期望:

![20141214191555257][]

（3）信息增益

信息增益(information gain)表示得知特征X的信息后，而使得Y的不确定性减少的程度。定义为:

![20141214191618937][]

## 2、ID3算法推导 ##

(1)分类系统信息熵

假设一个分类系统的样本空间（D,Y），D表示样本（有m个特征），Y表示n个类别，可能的取值是C1，C2，...，Cn。每一个类别出现的概率是P(C1)，P(C2)，...，P(Cn)。该分类系统的熵为：

![20141214191650434][]

离散分布中，类别Ci出现的概率P(Ci)，通过该类别出现的次数除去样本总数即可得到。对于连续分布，常需要分块做离散化处理获得。

(2)条件熵

根据条件熵的定义,分类系统中的条件熵指的是当样本的某一特征X固定时的信息熵。由于该特征X可能的取值会有（x1，x2，……，xn），当计算条件熵而需要把它固定的时候，每一种可能都要固定一下，然后求统计期望。

因此样本特征X取值为xi的概率是Pi，该特征被固定为值xi时的条件信息熵就是H(C|X=xi)，那么

H(C|X)就是分类系统中特征X被固定时的条件熵（X=（x1，x2，……，xn））：

![20141214191859275][]

若是样本的该特征只有两个值（x1 = 0,x2=1）对应(出现，不出现)，如文本分类中某一个单词的出现与否。那么对于特征二值的情况，我们用T代表特征，用t代表T出现，![20141214191934359][]表示该特征出现。那么：

![20141214192058421][]

与前面条件熵的公式对比一下，P(t)就是T出现的概率，![20141214192159783][]就是T不出现的概率。结合信息熵的计算公式，可得：

![20141214192012595][]

![20141214192132748][]

特征T出现的概率P(t)，只要用出现过T的样本数除以总样本数就可以了；P(Ci|t)表示出现T的时候，类别Ci出现的概率，只要用出现了T并且属于类别Ci的样本数除以出现了T的样本数就得到了。

（3）信息增益

根据信息增益的公式，分类系统中特征X的信息增益就是：Gain(D, X) = H(C)-H(C|X)

信息增益是针对一个一个的特征而言的，就是看一个特征X，系统有它和没它的时候信息量各是多少，两者的差值就是这个特征给系统带来的信息增益。每次选取特征的过程都是通过计算每个特征值划分数据集后的信息增益，然后选取信息增益最高的特征。

对于特征取值为二值的情况，特征T给系统带来的信息增益就可以写成系统原本的熵与固定特征T后的条件熵之差：

![20141214192232371][]

(4)经过上述一轮信息增益计算后会得到一个特征作为决策树的根节点，该特征有几个取值，根节点就会有几个分支，每一个分支都会产生一个新的数据子集Dk，余下的递归过程就是对每个Dk再重复上述过程，直至子数据集都属于同一类。

在决策树构造过程中可能会出现这种情况：所有特征都作为分裂特征用光了，但子集还不是纯净集（集合内的元素不属于同一类别）。在这种情况下，由于没有更多信息可以使用了，一般对这些子集进行“多数表决”，即使用此子集中出现次数最多的类别作为此节点类别，然后将此节点作为叶子节点。

# （三）C4.5算法 #

## 1、信息增益比选择最佳特征 ##

以信息增益进行分类决策时，存在偏向于取值较多的特征的问题。于是为了解决这个问题人们有开发了基于信息增益比的分类决策方法，也就是C4.5。C4.5与ID3都是利用贪心算法进行求解，不同的是分类决策的依据不同。

因此，C4.5算法在结构与递归上与ID3完全相同，区别就在于选取决断特征时选择信息增益比最大的。

信息增益比率度量是用ID3算法中的的增益度量Gain(D，X)和分裂信息度量SplitInformation(D，X)来共同定义的。分裂信息度量SplitInformation(D，X）就相当于特征X（取值为x1，x2，……，xn，各自的概率为P1，P2，...，Pn，Pk就是样本空间中特征X取值为xk的数量除上该样本空间总数）的熵。

![20190502113420829.png][]

在ID3中用信息增益选择属性时偏向于选择分枝比较多的属性值，即取值多的属性，在C4.5中由于除以SplitInformation(D,X)=H(X)，可以削弱这种作用。

## 2、处理连续数值型特征 ##

C4.5既可以处理离散型属性，也可以处理连续性属性。在选择某节点上的分枝属性时，对于离散型描述属性，C4.5的处理方法与ID3相同。对于连续分布的特征，其处理方法是：

先把连续属性转换为离散属性再进行处理。虽然本质上属性的取值是连续的，但对于有限的采样数据它是离散的，如果有N条样本，那么我们有N-1种离散化的方法：<=vj的分到左子树，>vj的分到右子树。计算这N-1种情况下最大的信息增益率。另外，对于连续属性先进行排序（升序），只有在决策属性（即分类发生了变化）发生改变的地方才需要切开，这可以显著减少运算量。经证明，在决定连续特征的分界点时采用增益这个指标（因为若采用增益率，splittedinfo影响分裂点信息度量准确性，若某分界点恰好将连续特征分成数目相等的两部分时其抑制作用最大），而选择属性的时候才使用增益率这个指标能选择出最佳分类特征。

在C4.5中，对连续属性的处理如下：

1、对特征的取值进行升序排序

2、两个特征取值之间的中点作为可能的分裂点，将数据集分成两部分，计算每个可能的分裂点的信息增益（InforGain）。优化算法就是只计算分类属性发生改变的那些特征取值。

3、选择修正后信息增益(InforGain)最大的分裂点作为该特征的最佳分裂点

4、计算最佳分裂点的信息增益率（Gain Ratio）作为特征的Gain Ratio。注意，此处需对最佳分裂点的信息增益进行修正：减去log2(N-1)/|D|（N是连续特征的取值个数，D是训练数据数目，此修正的原因在于：当离散属性和连续属性并存时，C4.5算法倾向于选择连续特征做最佳树分裂点）

## 3、叶子裁剪 ##

分析分类回归树的递归建树过程，不难发现它实质上存在着一个数据过度拟合问题。在决策树构造时，由于训练数据中的噪音或孤立点，许多分枝反映的是训练数据中的异常，使用这样的判定树对类别未知的数据进行分类，分类的准确性不高。因此试图检测和减去这样的分支，检测和减去这些分支的过程被称为树剪枝。树剪枝方法用于处理过分适应数据问题。通常，这种方法使用统计度量，减去最不可靠的分支，这将导致较快的分类，提高树独立于训练数据正确分类的能力。

决策树常用的剪枝常用的简直方法有两种：预剪枝(Pre-Pruning)和后剪枝(Post-Pruning)。预剪枝是根据一些原则及早的停止树增长，如树的深度达到用户所要的深度、节点中样本个数少于用户指定个数、不纯度指标下降的最大幅度小于用户指定的幅度等。预剪枝的核心问题是如何事先指定树的最大深度，如果设置的最大深度不恰当，那么将会导致过于限制树的生长，使决策树的表达式规则趋于一般，不能更好地对新数据集进行分类和预测。除了事先限定决策树的最大深度之外，还有另外一个方法来实现预剪枝操作，那就是采用检验技术对当前结点对应的样本集合进行检验，如果该样本集合的样本数量已小于事先指定的最小允许值，那么停止该结点的继续生长，并将该结点变为叶子结点，否则可以继续扩展该结点。

后剪枝则是通过在完全生长的树上剪去分枝实现的，通过删除节点的分支来剪去树节点，可以使用的后剪枝方法有多种，比如：代价复杂性剪枝、最小误差剪枝、悲观误差剪枝等等。后剪枝操作是一个边修剪边检验的过程，一般规则标准是：在决策树的不断剪枝操作过程中，将原样本集合或新数据集合作为测试数据，检验决策树对测试数据的预测精度，并计算出相应的错误率，如果剪掉某个子树后的决策树对测试数据的预测精度或其他测度不降低，那么剪掉该子树。

# [决策树--信息增益，信息增益比，Geni指数的理解][--_Geni] #

决策树 是表示基于特征对实例进行分类的树形结构

从给定的训练数据集中，依据特征选择的准则，递归的选择最优划分特征，并根据此特征将训练数据进行分割，使得各子数据集有一个最好的分类的过程。

决策树算法3要素：

*  特征选择
    
     *  决策树生成
     *  决策树剪枝

部分理解：

**关于决策树生成**

决策树的生成过程就是 使用满足划分准则的特征不断的将数据集划分为纯度更高，不确定性更小的子集的过程。

对于当前数据集D的每一次的划分，都希望根据某特征划分之后的各个子集的纯度更高，不确定性更小。

**而如何度量划分数据集前后的数据集的纯度以及不确定性呢？**

**答案**：特征选择准则，比如：信息增益，信息增益率，基尼指数

**特征选择准则：**

**目的**：使用某特征对数据集划分之后，各数据子集的纯度要比划分前的数据集D的纯度高（不确定性要比划分前数据集D的不确定性低。）

**注意**：

1. 划分后的纯度为各数据子集的纯度的加和（子集占比\*子集的经验熵）。

2. 度量划分前后的纯度变化 用子集的纯度之和与划分前的数据集D的纯度 进行对比。

**特征选择的准则就是 度量样本集合不确定性以及纯度的方法。本质相同，定义不同而已。**

**特征选择的准则主要有以下三种：****信息增益，信息增益率，基尼指数**

--------------------

首先介绍一下熵的概念以及理解：

熵：度量随机变量的不确定性。（纯度）

定义：假设随机变量X的可能取值有x1，x2， ... , xn

对于每一个可能的取值xi，其概率 P(X=xi) = pi , ( i = 1,2, ... , n)

因此随机变量X的熵：

![1094293-20170323162933986-429761079.png][]

对于样本集合D来说，随机变量X是样本的类别，即，假设样本有k个类别，每个类别的概率是![1094293-20170317131605495-1565634841.png][]，其中|Ck|表示类别k的样本个数，|D|表示样本总数

则对于**样本集合D来说熵（经验熵）**为：

![1094293-20170317154810807-1726620815.png][]

--------------------

*  **信息增益（ ID3算法 ）**

**定义**： 以某特征划分数据集前后的熵的差值

在熵的理解那部分提到了，熵可以表示样本集合的不确定性，熵越大，样本的不确定性就越大。因此可以**使用划分前后集合熵的差值来衡量使用当前特征对于样本集合D划分效果的好坏**。

划分前样本集合D的熵是一定的 ，entroy(前)，

使用某个特征A划分数据集D，计算划分后的数据子集的熵 entroy(后)

**         信息增益 = ** **entroy(前) - ** **entroy(后) **

**![1094293-20170317135703338-812093045.png][]**

**做法：**计算使用所有特征划分数据集D，得到多个特征划分数据集D的信息增益，从这些信息增益中选择最大的，因而当前结点的划分特征便是使信息增益最大的划分所使用的特征。

**信息增益的理解：**

**               **对于待划分的数据集D，其 entroy(前)是一定的，但是划分之后的熵 entroy(后)是不定的，entroy(后)越小说明使用此特征划分得到的子集的不确定性越小（也就是纯度越高），因此 entroy(前) -  entroy(后)差异越大，说明使用当前特征划分数据集D的话，其纯度上升的更快。而我们在构建最优的决策树的时候总希望能更快速到达纯度更高的集合，这一点可以参考优化算法中的梯度下降算法，每一步沿着负梯度方法最小化损失函数的原因就是负梯度方向是函数值减小最快的方向。同理：在决策树构建的过程中我们总是希望集合往最快到达纯度更高的子集合方向发展，因此我们总是选择使得信息增益最大的特征来划分当前数据集D。

**缺点**：信息增益偏向取值较多的特征

**原因**：当特征的取值较多时，根据此特征划分更容易得到纯度更高的子集，因此划分之后的熵更低，由于划分前的熵是一定的，因此信息增益更大，因此信息增益比较 偏向取值较多的特征。

*   **解决方法 :  信息增益比（ C4.5算法 ）**

**信息增益比 = 惩罚参数 \* 信息增益**

**书中公式：**

**![1094293-20170317133854323-1046650322.png][]**

**注意：**其中的HA(D)，对于样本集合D，将当前特征A作为随机变量（取值是特征A的各个特征值），求得的经验熵。

**（之前是把集合类别作为随机变量，现在把某个特征作为随机变量，按照此特征的特征取值对集合D进行划分，计算熵HA(D)）**

![1094293-20170317135209885-3830592.png][]

**      信息增益比本质： 是在信息增益的基础之上乘上一个惩罚参数。特征个数较多时，惩罚参数较小；特征个数较少时，惩罚参数较大。**

**        惩罚参数：数据集D以特征A作为随机变量的熵的倒数，即：将特征A取值相同的样本划分到同一个子集中（之前所说数据集的熵是依据类别进行划分的）**

**        ![1094293-20170317132527166-2071609059.png][]**

**缺点**：信息增益比偏向取值较少的特征

**原因：**  当特征取值较少时HA(D)的值较小，因此其倒数较大，因而信息增益比较大。因而偏向取值较少的特征。

**使用信息增益比：基于以上缺点，****并不是直接选择信息增益率最大的特征，而是现在候选特征中找出信息增益高于平均水平的特征，然后在这些特征中再选择信息增益率最高的特征。**

*  **基尼指数（ CART算法 ---分类树）**

**定义：**基尼指数（基尼不纯度）：表示在样本集合中一个随机选中的样本被分错的概率。

**注意**： Gini指数越小表示集合中被选中的样本被分错的概率越小，也就是说集合的纯度越高，反之，集合越不纯。

即 **基尼指数（基尼不纯度）= 样本被选中的概率 \* 样本被分错的概率**

**书中公式：**

![1094293-20170317141739932-1276625834.png][]

**说明:**

1. pk表示选中的样本属于k类别的概率，则这个样本被分错的概率是(1-pk)

2. 样本集合中有K个类别，一个随机选中的样本可以属于这k个类别中的任意一个，因而对类别就加和

3. 当为二分类是，Gini(P) = 2p(1-p)

**样本集合D的Gini指数 ： **假设集合中有K个类别，则：

![1094293-20170317150440573-1005337680.png][]

**基于特征A划分样本集合D之后的基尼指数：**

**需要说明**的是CART是个二叉树，也就是当使用某个特征划分样本集合只有两个集合：1. 等于给定的特征值 的样本集合D1 ， 2 不等于给定的特征值 的样本集合D2

实际上是对拥有多个取值的特征的二值处理。

举个例子：

假设现在有特征 “学历”，此特征有三个特征取值： “本科”，“硕士”， “博士”，

当使用“学历”这个特征对样本集合D进行划分时，划分值分别有三个，因而有三种划分的可能集合，划分后的子集如下：

1.  1.      划分点： “本科”，划分后的子集合 ： \{本科\}，\{硕士，博士\}
    2.      划分点： “硕士”，划分后的子集合 ： \{硕士\}，\{本科，博士\}
    3.  **    **划分点： “硕士”，划分后的子集合 ： \{博士\}，\{本科，硕士\}

对于上述的每一种划分，都可以计算出基于 **划分特征= 某个特征值** 将样本集合D划分为两个子集的纯度：

![1094293-20170317152444807-1967857048.png][]

因而**对于一个具有多个取值（超过2个）的特征，需要计算以每一个取值作为划分点，对样本D划分之后子集的纯度Gini(D,Ai)，(其中Ai 表示特征A的可能取值)**

然后从所有的可能划分的Gini(D,Ai)中找出Gini指数最小的划分，这个划分的划分点，便是使用特征A对样本集合D进行划分的最佳划分点。

[20141214191529906]: /images/20220603/7da797ed480548cc9fcd41e1ec9fc745.png
[20141214191555257]: /images/20220603/16cc7e25f1654d179beb9dcb474479be.png
[20141214191618937]: /images/20220603/62d0cc51819c4590a0234bfff29a669d.png
[20141214191650434]: /images/20220603/2c9565a7e6e74d259a14975d7c48d073.png
[20141214191859275]: /images/20220603/ec970d5dc8a04a399a3a596be74491ea.png
[20141214191934359]: /images/20220603/5d6124a5dbde4cd48311a1e5d99d89cd.png
[20141214192058421]: /images/20220603/0e1e45abdb5f474dbe7d76087711ea78.png
[20141214192159783]: /images/20220603/fdde13ba4d1546ab8eb988e627585165.png
[20141214192012595]: /images/20220603/80dea5b3fffb4d1b89b7c72a8c8f1816.png
[20141214192132748]: /images/20220603/44d6a041a7184ff68a95045a434466f5.png
[20141214192232371]: /images/20220603/bc8187835cd74e468757066711cca182.png
[20190502113420829.png]: /images/20220603/e35d788059b649119ec6fa0f17528c6e.png
[--_Geni]: https://blog.csdn.net/SecondLieutenant/article/details/78810913
[1094293-20170323162933986-429761079.png]: /images/20220603/9e9bf3ff6fbc435abf9025cc669bb08b.png
[1094293-20170317131605495-1565634841.png]: /images/20220603/c93b393fef6b48af914c642a59146c20.png
[1094293-20170317154810807-1726620815.png]: /images/20220603/2610a250f7ae40faa16f18ec16a6db17.png
[1094293-20170317135703338-812093045.png]: /images/20220603/116ae7a90a2646cba753cfc725901327.png
[1094293-20170317133854323-1046650322.png]: /images/20220603/0a16de5d13644d02a34fee9fe391af3b.png
[1094293-20170317135209885-3830592.png]: /images/20220603/b6c25903ce20437b8e09b71098a944e6.png
[1094293-20170317132527166-2071609059.png]: /images/20220603/6f9636284ba747d2a2a7e86ec9692325.png
[1094293-20170317141739932-1276625834.png]: /images/20220603/c5eb41b06ffb42009208d8f4517d4582.png
[1094293-20170317150440573-1005337680.png]: /images/20220603/982aedfe0dfa4a1ab6cae71098bedfd4.png
[1094293-20170317152444807-1967857048.png]: /images/20220603/08358543de2542308ebc2899e5873567.png