神经网络学习小记录24——卷积神经网络经典模型及其改进点汇总

逃离我推掉我的手 2023-06-11 12:27 15阅读 0赞

### 神经网络学习小记录24——卷积神经网络经典模型及其改进点汇总 ###

*  学习前言
 *  经典神经网络的改进点
 *  经典神经网络的结构汇总
 *   *  1、VGG16
     *  2、ResNet50
     *  3、InceptionV3
     *  4、Xception
     *  5、MobileNet

# 学习前言 #

学了好多好多的网络，它们的重点都是什么呢？  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center]

# 经典神经网络的改进点 #

<table> 
 <thead> 
  <tr> 
   <th align="center">名称</th> 
   <th align="center">改进点</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="center">VGG16</td> 
   <td align="center">1、使用非常多的3*3卷积串联，利用小卷积代替大卷积，该操作使得其拥有更少的参数量，同时会比单独一个卷积层拥有更多的非线性变换。2、探索了卷积神经网络的深度与其性能之间的关系，成功构建16层网络（还有VGG19的19层网络）。</td> 
  </tr> 
  <tr> 
   <td align="center">ResNet50</td> 
   <td align="center">1、使用残差网络，其可以解决由于网络深度加深而产生的学习效率变低与准确率无法有效提升的问题。2、采用bottleneck design结构，在3x3网络结构前利用1x1卷积降维，在3x3网络结构后，利用1x1卷积升维，相比直接使用3x3网络卷积效果更好，参数更少。</td> 
  </tr> 
  <tr> 
   <td align="center">InceptionV3</td> 
   <td align="center">1、Inception系列通用的改进点是使用不同大小的卷积核，使得存在不同大小的感受野，最后实现拼接达到不同尺度特征的融合。2、利用1x7的卷积和7x1的卷积代替7x7的卷积，这样可以只使用约（1x7 + 7x1) / (7x7) = 28.6%的计算开销；利用1x3的卷积和3x1的卷积代替3x3的卷积，这样可以只使用约（1x3 + 3x1) / (3x3) = 67%的计算开销。</td> 
  </tr> 
  <tr> 
   <td align="center">Xception</td> 
   <td align="center">1、开始采用残差网络，其可以解决由于网络深度加深而产生的学习效率变低与准确率无法有效提升的问题。2、采用SeparableConv2D层，利用深度可分离卷积减少参数量。</td> 
  </tr> 
  <tr> 
   <td align="center">MobileNet</td> 
   <td align="center">1、是一种轻量级的深层神经网络，为一定设备设计。 2、采用depthwise separable convolution结构，3x3卷积核厚度只有一层，然后在输入张量上一层一层地滑动，所以一个卷积核就对应了一个输出通道，当卷积完成后，在利用1x1的卷积调整厚度，实现参数减少。</td> 
  </tr> 
 </tbody> 
</table>

# 经典神经网络的结构汇总 #

## 1、VGG16 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 1]

**1、一张原始图片被resize到(224,224,3)。  
2、conv1两次\[3,3\]卷积网络，输出的特征层为64，输出为(224,224,64)，再2X2最大池化，输出net为(112,112,64)。  
3、conv2两次\[3,3\]卷积网络，输出的特征层为128，输出net为(112,112,128)，再2X2最大池化，输出net为(56,56,128)。  
4、conv3三次\[3,3\]卷积网络，输出的特征层为256，输出net为(56,56,256)，再2X2最大池化，输出net为(28,28,256)。  
5、conv3三次\[3,3\]卷积网络，输出的特征层为256，输出net为(28,28,512)，再2X2最大池化，输出net为(14,14,512)。  
6、conv3三次\[3,3\]卷积网络，输出的特征层为256，输出net为(14,14,512)，再2X2最大池化，输出net为(7,7,512)。  
7、利用卷积的方式模拟全连接层，效果等同，输出net为(1,1,4096)。共进行两次。  
8、利用卷积的方式模拟全连接层，效果等同，输出net为(1,1,1000)。**  
最后输出的就是每个类的预测。

具体实现代码可以看我的博文[神经网络学习小记录16——VGG16模型的复现及其详解（包含如何预测）][16_VGG16]

## 2、ResNet50 ##

ResNet50最大的特点是使用了残差网络。  
残差网络的特点是**将靠前若干层的某一层数据**输出直接**跳过多层**引入到**后面数据层的输入部分。**  
意味着**后面的特征层的内容会有一部分由其前面的某一层线性贡献。**  
其结构如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 2]  
ResNet50有两个基本的块，**分别名为Conv Block和Identity Block，其中Conv Block输入和输出的维度是不一样的，所以不能连续串联，它的作用是改变网络的维度；Identity Block输入维度和输出维度相同，可以串联，用于加深网络的。**  
Conv Block的结构如下：

![在这里插入图片描述][20191113094201415.png_pic_center]  
Identity Block的结构如下：  
![在这里插入图片描述][20191113094135752.png_pic_center]

这两个都是残差网络结构。  
总的网络结构如下：  
![在这里插入图片描述][20191028224145980.png_pic_center]

具体实现代码可以看我的博文[神经网络学习小记录20——ResNet50模型的复现详解][20_ResNet50]

## 3、InceptionV3 ##

**Inception系列的网络的特点是采用不同大小的卷积核，使得存在不同大小的感受野，最后实现拼接达到不同尺度特征的融合。**

对于InceptionV3而言，其网络中存在着如下的结构。  
这个结构使用不同大小的卷积核对输入进行卷积（这个结构主要在代码中的block1使用）。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 3]  
**还存在着这样的结构，利用1x7的卷积和7x1的卷积代替7x7的卷积，这样可以只使用约（1x7 + 7x1) / (7x7) = 28.6%的计算开销；利用1x3的卷积和3x1的卷积代替3x3的卷积，这样可以只使用约（1x3 + 3x1) / (3x3) = 67%的计算开销。  
下图利用1x7的卷积和7x1的卷积代替7x7的卷积（这个结构主要在代码中的block2使用）。**  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 4]  
下图利用1x3的卷积和3x1的卷积代替3x3的卷积（这个结构主要在代码中的block3使用）。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 5]  
具体实现代码可以看我的博文[神经网络学习小记录21——InceptionV3模型的复现详解][21_InceptionV3]

## 4、Xception ##

Xception是谷歌公司继Inception后，提出的InceptionV3的一种改进模型，其改进的主要内容为采用depthwise separable convolution来替换原来Inception v3中的多尺寸卷积核特征响应操作。  
在讲Xception模型之前，首先要讲一下什么是depthwise separable convolution（深度可分离卷积块）。

**深度可分离卷积块由两个部分组成，分别是深度可分离卷积和1x1普通卷积，深度可分离卷积的卷积核大小一般是3x3的，便于理解的话我们可以把它当作是特征提取，1x1的普通卷积可以完成通道数的调整。**

下图为深度可分离卷积块的结构示意图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 6]  
**深度可分离卷积块的目的是使用更少的参数来代替普通的3x3卷积。**

我们可以进行一下普通卷积和深度可分离卷积块的对比：

**假设有一个3×3大小的卷积层，其输入通道为16、输出通道为32。具体为，32个3×3大小的卷积核会遍历16个通道中的每个数据，最后可得到所需的32个输出通道，所需参数为16×32×3×3=4608个。**

**应用深度可分离卷积，用16个3×3大小的卷积核分别遍历16通道的数据，得到了16个特征图谱。在融合操作之前，接着用32个1×1大小的卷积核遍历这16个特征图谱，所需参数为16×3×3+16×32×1×1=656个。**  
可以看出来depthwise separable convolution可以减少模型的参数。

通俗地理解深度可分离卷积结构块，就是3x3的卷积核厚度只有一层，然后在输入张量上一层一层地滑动，每一次卷积完生成一个输出通道，当卷积完成后，再利用1x1的卷积调整厚度。

**（视频中有些许错误，感谢zl960929的提醒，Xception使用的深度可分离卷积块SeparableConv2D也就是先深度可分离卷积再进行1x1卷积。）**

对于Xception模型而言，其一共可以分为3个flow，分别是Entry flow、Middle flow、Exit flow；分为14个block，其中Entry flow中有4个、Middle flow中有8个、Exit flow中有2个。具体结构如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 7]  
其内部主要结构就是残差卷积网络搭配SeparableConv2D层实现一个个block，在Xception模型中，常见的两个block的结构如下。  
这个主要在Entry flow和Exit flow中：  
![在这里插入图片描述][20191030103011544.png_pic_center]  
这个主要在Middle flow中：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 8]  
具体实现代码可以看我的博文[神经网络学习小记录22——Xception模型的复现详解][22_Xception]

## 5、MobileNet ##

MobileNet模型是Google针对手机等嵌入式设备提出的一种轻量级的深层神经网络，其使用的核心思想便是depthwise separable convolution。

对于一个卷积点而言：  
**假设有一个3×3大小的卷积层，其输入通道为16、输出通道为32。具体为，32个3×3大小的卷积核会遍历16个通道中的每个数据，最后可得到所需的32个输出通道，所需参数为16×32×3×3=4608个。**

如下这张图就是depthwise separable convolution的结构  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 6]  
**在建立模型的时候，可以使用Keras中的DepthwiseConv2D层实现深度可分离卷积，然后再利用1x1卷积调整channels数。**

通俗地理解就是3x3的卷积核厚度只有一层，然后在输入张量上一层一层地滑动，每一次卷积完生成一个输出通道，当卷积完成后，在利用1x1的卷积调整厚度。

**如下就是MobileNet的结构，其中Conv dw就是分层卷积，在其之后都会接一个1x1的卷积进行通道处理，**  
![在这里插入图片描述][20191030153845940.png_pic_center]

具体实现代码可以看我的博文[神经网络学习小记录23——MobileNet模型的复现详解][23_MobileNet]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center]: /images/20230531/c2a58dc2c5564f4ab5ea9c594ea93eda.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20230531/e28bd338e47c4dbeb1cb209c98848553.png
[16_VGG16]: https://blog.csdn.net/weixin_44791964/article/details/102585038
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20230531/ef279e4b19c848b0b910178ad25ff691.png
[20191113094201415.png_pic_center]: /images/20230531/5d03c9a1818344b984f8bc516677919e.png
[20191113094135752.png_pic_center]: /images/20230531/33d2e1799d6b44f5928e4358030c69ee.png
[20191028224145980.png_pic_center]: /images/20230531/164f562fedb341e196b15387332b84bf.png
[20_ResNet50]: https://blog.csdn.net/weixin_44791964/article/details/102790260
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20230531/897f0f23ecb54e29922908d2be9448db.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20230531/a711a2cf4e33402c82c4c29453dc9362.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20230531/72c02bf9202f430a82c12f950718f665.png
[21_InceptionV3]: https://blog.csdn.net/weixin_44791964/article/details/102802866
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20230531/9478e277718842748bebf5c7f8fddc3e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 7]: /images/20230531/1ce25b0a43814acc89a7c8dcc2c28067.png
[20191030103011544.png_pic_center]: /images/20230531/208b9fd9bcfe4cc0bdeddeb20e78876e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80NDc5MTk2NA_size_16_color_FFFFFF_t_70_pic_center 8]: /images/20230531/615609cdd7ae4c93abe73a3fc32b29a5.png
[22_Xception]: https://blog.csdn.net/weixin_44791964/article/details/102813517
[20191030153845940.png_pic_center]: /images/20230531/88a349a7f1344a3992bc832af0a8cf37.png
[23_MobileNet]: https://blog.csdn.net/weixin_44791964/article/details/102819915