MobileNet v2 -- 温故而知新

心已赠人 2022-11-26 06:53 286阅读 0赞

> 原创: Lebhoryi@gmail.com  
> 时间: 2020/08/10

### 文章目录 ###

*  0x00 Paper
 *  0x01 为了解决什么问题
 *  0x02 提出了哪些创新点
 *   *  2.1 两个闪闪发光的点
     *  2.2 MobileNet V2 与 V1 之间的相同和不同点
     *  2.3 ResNet 与 MobileNet V2 比对
 *  0x03 网络结构
 *  0x04 参考链接

# 0x00 Paper #

>  *  Paper: [MobileNet v2][]
>  *  Code: [mobilenet\_v2.py][mobilenet_v2.py]

# 0x01 为了解决什么问题 #

设计更小更快的网络结构。

深度卷积(Depthwise Convolution) 本身不能改变特征的通道数，并且通道数越少，在进行非线性激活函数的时候，会丢失更多的信息。

![format_png][]

上图是作者展示用RELU激活时，当channel越小，丢失的信息越多，当channel越大，丢失的信息越少。当channel为2时，信息都集中在这两个channel中，如果有部分数值小于0就会被RELU激活丢失掉。而如果channel为30，其实信息是分散的，而且具有了冗余，所以通过RELU激活后归于0的值可能并不会影响太多信息的存储。

所以作者建议对于channel数很少的那些层做线性激活。当通道数由少变多的时候，用ReLU激活函数，当通道数由多变少的时候，做线性激活。

bottlenect就表示瓶颈层，通道数由多变少，linear bottleneck表示对channel缩减的层做线性激活。虚线的tensor后进行线性激活。

![format_png 1][]

a是普通卷积，b是深度分离卷积，c是有bottlenect的分离卷积，d是对bottlenect进行扩张后的分离卷积。同样最后一层虚线的tensor后面是线性激活。

# 0x02 提出了哪些创新点 #

## 2.1 两个闪闪发光的点 ##

1.  Linear Bottlenecks
    
    对通道数较少的使用线性激活，为了提取更多的特征信息
2.  Inverted residual structure
    
    ![format_png 2][]
    
    a是正常的残差块，通道数先降维再升维，b是倒置的残差块，通道数先升维后降维。前者在特征提取的时候可能会丢失信息(通道数越少特征提取能力越弱)，所以作者采用了后者的方法。同样，虚线tensor后面进行的是线性激活。
3.   F L O P s = h ∗ w ∗ d ′ ∗ t ∗ ( d ′ + k 2 + d ′ ′ ) FLOPs = h\* w\*d'\*t\*(d' + k^2+d'') FLOPs=h∗w∗d′∗t∗(d′\+k2\+d′′)
    
    h\*w为输入的尺寸大小，t是扩展因子，k是卷积核大小，d’ 是输入通道，d’’ 是输出通道

## 2.2 MobileNet V2 与 V1 之间的相同和不同点 ##

![format_png 3][]

*  相同点
    
    都使用了 DSCNN，降低了网络的计算参数，具体详细请看上一篇博客 ☞ [MobileNet V1 复古的直筒子结构][MobileNet V1]
 *  不同点
    
    MobileNet V1 使用的是`DW + PW` 的直筒子结构。为什么说是直筒子呢？因为在 DW 的过程中，网络自身无法改变输入和输出的通道数，可以查看第一张图的图b，很形象了。因此如果传入的通道数较少，网络的特征提取能力就相对来说较弱。
    
     *  第一个不同点：
    
    MobileNet V2 **使用的是`PW + DW + PW` 结构**，先升维，拉高通道数，后降维。因此无论传入的通道数是多还是少，都强行按照系数高
    
     *  第二个不同点：
    
    MobileNet V2 在最后`PW` 之后，**去掉了`ReLU` 激活函数**，也就是使用了线性的`Bottleneck`。作者认为激活函数在高维空间能够有效的增加非线性，而在低维空间时会破坏特征，不如线性的效果好。

## 2.3 ResNet 与 MobileNet V2 比对 ##

![format_png 4][]

*  相同点
    
    1.  使用了`1*1 --> 3*3 --> 1*1` 的模式；
    2.  用Shortcut 将输出和输入相加
 *  不同点
    
    1.  ResNet 使用标准卷积提取特征，而 MobileNet 使用 DW 卷积提取特征
    2.  ResNet 先降维、卷积、再升维，MobileNet 先升维、DW、再降维

# 0x03 网络结构 #

![format_png 5][]

当步长等于2的时候：

![format_png 6][]

此处还有一些问题：

1. 上面的`bottleneck` 总共加起来只有17层，而paper 中论述有19层；

2. 还有同学跑出来的MobileNet V2 版本的推理速度比 V1 还慢，有待商榷 **(代码未详读)**

最终的效果比对：

![format_png 7][]

# 0x04 参考链接 #

*  [MobileNet V2论文阅读和代码解析][MobileNet V2]
 *  [MobileNet V2 论文初读][MobileNet V2 1]
 *  [轻量化网络：MobileNet-V2][MobileNet-V2]

[MobileNet v2]: https://arxiv.org/abs/1801.04381
[mobilenet_v2.py]: https://github.com/tensorflow/tensorflow/blob/0151faf9556bd407de1ea83b4d7de96c33a1e21a/tensorflow/python/keras/applications/mobilenet_v2.py
[format_png]: /images/20221124/fecda6de901b4d80890076c1cb91c20c.png
[format_png 1]: /images/20221124/18ab51312e6243e7b7141e094605feb6.png
[format_png 2]: /images/20221124/9653763b33aa46b9915386caeb4f39f0.png
[format_png 3]: /images/20221124/42e23718f4084ccfa57b65f0b68dc193.png
[MobileNet V1]: https://blog.csdn.net/weixin_37598106/article/details/107859280
[format_png 4]: /images/20221124/244b0d9fbf504c2dbf265a4a4e1c3cf4.png
[format_png 5]: /images/20221124/8e44ac2bed5340d2bceb53d985d9c7af.png
[format_png 6]: /images/20221124/8f788a13f5ac4a1599ac893815f765c3.png
[format_png 7]: /images/20221124/4574d1d5dec34702971624fd26c5d578.png
[MobileNet V2]: https://blog.csdn.net/stesha_chen/article/details/82744320
[MobileNet V2 1]: https://zhuanlan.zhihu.com/p/33075914
[MobileNet-V2]: https://blog.csdn.net/u011995719/article/details/79135818