海康威视研究院ImageNet2016竞赛经验分享

清疚 2021-06-11 15:12 609阅读 0赞

[来自][Link 1]

![v2-4420bb556529bc294f99afd3c5109de9_b.jpg][]场景分类数据增强数据增强对最后的识别性能和泛化能力都有着非常重要的作用。我们使用下面这些数据增强方法。第一，对颜色的数据增强，包括色彩的饱和度、亮度和对比度等方面，主要从Facebook的代码里改过来的。第二，PCA Jittering，最早是由Alex在他2012年赢得ImageNet竞赛的那篇NIPS中提出来的. 我们首先按照RGB三个颜色通道计算了均值和标准差，对网络的输入数据进行规范化，随后我们在整个训练集上计算了协方差矩阵，进行特征分解，得到特征向量和特征值，用来做PCA Jittering。第三，在图像进行裁剪和缩放的时候，我们采用了随机的图像差值方式。第四， Crop Sampling，就是怎么从原始图像中进行缩放裁剪获得网络的输入。比较常用的有2种方法：一是使用Scale Jittering。VGG和ResNet模型的训练都用了这种方法。二是尺度和长宽比增强变换。最早是Google提出来训练他们的Inception网络的。我们对其进行了改进，提出Supervised Data Augmentation方法。![737444-20161028155318484-1868848712.png][]

尺度和长宽比增强变换有个缺点，随机去选Crop Center的时候，选到的区域有时候并不包括真实目标的区域。这意味着，有时候使用了错误的标签去训练模型。如图所示，左下角的图真值标签是风车农场，但实际上裁剪的区域是蓝天白云，其中并没有任何风车和农场的信息。

我们在Bolei今年CVPR文章的启发下，提出了有监督的数据增强方法。我们首先按照通常方法训练一个模型，然后用这个模型去生成真值标签的Class Activation Map（或者说Heat Map）, 这个Map指示了目标物体出现在不同位置的概率. 我们依据这个概率，在Map上随机选择一个位置，然后映射回原图，在原图那个位置附近去做Crop。

![737444-20161028163152984-1159974995.png][]

如下图所示，对比原始的尺度和长宽比增强变换，我们方法的优点在于，我们根据目标物体出现在不同位置的概率信息，去选择不同的Crop区域，送进模型训练。通过引入这种有监督的信息，我们可以利用正确的信息来更好地训练模型，以提升识别准确率。 (+0.5~0.7)

![737444-20161028163256812-1303275755.png][]

## 样本平衡 ##

场景数据集有800万样本，365个类别，各个类别的样本数非常不平衡，有很多类别的样本数达到了4万，也有很多类别的样本数还不到5000。这么大量的样本和非常不均匀的类别分布，给模型训练带来了难题。

### Label Shuffling平衡策略 ###

在去年冠军团队的Class-Aware Sampling方法的启发下，我们提出了Label Shuffling的类别平衡策略。在Class-Aware Sampling方法中，他们定义了2种列表，一是类别列表，一是每个类别的图像列表，对于365类的分类问题来说，就需要事先定义366个列表，很不方便。我们对此进行了改进，只需要原始的图像列表就可以完成同样的均匀采样任务。以图中的例子来说，步骤如下：

*  首先对原始的图像列表，按照标签顺序进行排序；
 *  然后计算每个类别的样本数量，并得到样本最多的那个类别的样本数。
 *  根据这个最多的样本数，对每类随机都产生一个随机排列的列表；
 *  然后用每个类别的列表中的数对各自类别的样本数求余，得到一个索引值，从该类的图像中提取图像，生成该类的图像随机列表；
 *  然后把所有类别的随机列表连在一起，做个Random Shuffling，得到最后的图像列表，用这个列表进行训练。

每个列表，到达最后一张图像的时候，然后再重新做一遍这些步骤，得到一个新的列表，接着训练。Label Shuffling方法的优点在于，只需要原始图像列表，所有操作都是在内存中在线完成，非常易于实现。

![737444-20161028163514593-1580896985.png][]

### Label Smoothing策略 ###

我们使用的另外一个方法是Label Smoothing，是今年Google的CVPR论文中提出来的方法。根据我们的混淆矩阵（Confusion Matrix）的分析，发现存在很多跨标签的相似性问题，这可能是由于标签模糊性带来的。所以，我们对混淆矩阵进行排序，得到跟每个标签最相近的4个标签，用它们来定义标签的先验分布，将传统的 one-hot标签，变成一个平滑过的soft标签。通过这种改进，我们发现可以从某种程度上降低过拟合问题。(+0.2~0.3)

![737444-20161028163703281-468559970.png][]

## 性能提升技巧 ##

这边还有一些其他的技巧来提升性能，我们将其总结成一个原则：训练和测试要协调。在训练的时候，我们通常都需要做数据增强，在测试的时候，我们通常很少去做数据增强。这其中似乎有些不协调，因为你训练和测试之间有些不一致。通过我们的实验发现，如果你在训练的最后几个epoch，移除数据增强，然后跟传统一样测试，可以提升一点性能。同样，如果训练的时候一直使用尺度和长宽比增强数据增强，在测试的时候也同样做这个变化，随机取32个crop来测试，也可以在最后的模型上提升一点性能。还有一条，就是多尺度的训练，多尺度的测试。另外，值得指出的是，使用训练过程的中间结果，加入做测试，可以一定程度上降低过拟合。

![737444-20161028165031625-670261871.png][]

对于模型结构，没什么特别的改进，我们主要使用了Inception v3和Inception ResNet v2，以及他们加深加宽的版本。还用到了Wide ResNet 。

![v2-2ea607bca495fb43e5b476d482f9eca7_b.jpg][]

# 场景解析 #

此次竞赛的语义分割任务非常具有挑战性。它一方面需要目标整体层面的信息，同时还需要每个像素的分类准确率。目前有很多语义分割的模型，但哪一种框架是最好的仍然是一个问题。我们设计了一个Mixed Context Network（MCN），它由一系列Mixed Context Blocks（MCB）堆叠而成。如图所示，每个MCB包括两个并行的卷积层：1个1x1卷积和1个3x3 Dilated卷积。Dilated卷积的采样率分别设置成了1,2,4,8,16。除了MCN之外，我们还在最后设计了一个Message Passing Network（MPN），来增强不同标签之间的空间一致性。

![v2-38097e389268d90cfdf3ebb0e9e27b76_b.jpg][]

CRF as RNN可以被加到网络的最后，与CNN一起联合训练。但是CRF as RNN比较耗费显存，尤其是在类别数比较大的时候（比如ADE20K有150类）。可以通过降低输入图像的分辨率来节省显存，但是这样做也会带来一些负面影响。为了解决这个问题，我们引入了一个新的比较省显存的模块，叫做MPN。在MPN中，我们首先将Score Map的通道从150降到了32，然后接了一个Permutohedral卷积层，用于做高维的高斯滤波。我们去掉了其中的平滑项，仅仅将1x1卷积层的特征和Permutohedral卷积层的特征连接，然后接一个3x3的卷积。实验证明，这样的结构也能较好地工作。

![v2-d6f17746ab58e2aa71150fc1221894ee_b.jpg][]

# 物体检测与定位 #

![v2-93d428d5b2551202c7a487f04bcfadda_b.jpg][]

我们的检测和定位，都是基于Faster-RCNN这个框架。图中我们列出了所有用到的技巧。有很多技巧在以前的文献中都可以找到，比如多尺度的训练和测试，难样本挖掘，水平翻转和Box Voting。但我们自己也做了很多新的改进，比如样本均衡，Cascade RPN，预训练的Global Context等。至于网络结构，我们仅仅用了三个ResNet-101模型。一个来自于MSRA，一个来自于Facebook，还有一个是我们自己训练的Identity Mapping版的ResNet-101。我们最好的单模型结果，是源自我们自己训练的Identity Mapping版的ResNet-101。

![v2-95865b813291bec665c1c8130cdf13e9_b.jpg][]

我们设计了一个轻量级的Cascade RPN。2个RPN顺序堆叠在一起。 RPN 1使用滑窗Anchors，然后输出比较精确定位的Proposals。RPN 2使用RPN 1的Proposals作为Anchors。我们发现这个结构可以提升大中尺寸Proposals的定位精度，但不适合小的Proposals。所以在实际中，我们RPN1提取小的Proposals，RPN2提取大中尺寸的Proposals。注: Proposals尺寸的阈值是64 \* 64。

![v2-be5c4d4759d55c5271acadc3ad2d588b_b.jpg][]

另外一个改进就是限制正负Anchor的比例。在传统的RPN中，Batch Size通常是256，理想的正负Anchor比例是1。但是在实际使用中，这个比例往往会很大，通常会大于10。所以我们缩小了Batch Size，控制最大的比例为1.5。最小的Batch Size设置为32。对比实验表明，使用Cascade RPN和限制正负Anchor比例这两个策略，在ImageNet DET的验证集上，AR提升了5.4个点，Recall@0.7提升了9.5个点，而Recall@0.5只提升1个点。这说明Proposals的定位精度得到了显著的改善。

![v2-a5be0c98a1e6829652fc15c81a960e9f_b.jpg][]

Global Context在去年Kaiming的论文中就已经提到，他们使用这个方法得到了1个点的mAP提升。我们也实现了自己的Global Context方法：除了在在RoI上做RoIPooling 之外，我们还对全图做了RoIPooling来获得全局特征。这个全局特征仅仅被用来分类，不参加bbox回归。我们实验发现，Global Context如果使用随机初始化，其性能提升有限。当我们采用预训练的参数进行精调之后，发现mAP的性能可以提升3.8个点。

![v2-4932aca2e45c04c8e55ef6de41059980_b.jpg][]

此外，我们发现，在1000类的LOC上预训练，然后再在DET数据上精调，可以 得到额外0.5个点的mAP提升。

![v2-6ca5a27eebe9f4d573a3146a3e9b0a52_b.jpg][]

平衡采样是去年场景分类任务中所用到的一个技巧。我们也将它用来做检测任务。左侧是一个类别的列表，对于每个类别，我们又创建了一个图像列表。训练过程中，我们先从类别列表中选择一个类别，然后从这个类对应的图像列表中采样。和分类任务不同的是，检测任务中一张图像可能包含多个类别的目标。对于这种多标签的图像我们允许它们出现在多个类别的图像列表中。使用平衡采样技术，可以在VOC2007数据集上获得0.7的mAP提升。

![v2-02d93f5ba2e2fd93a492a58591bee613_b.jpg][]

集成上述所列的各项技术，我们的检测模型取得了SOTA的性能。在ImageNet DET任务中，我们以65.3的mAP获得了第二名。就单个模型而言，我们的模型能以少许优势排名第一。我们使用了相同的检测框架来完成ImageNet LOC任务。在最后的竞赛中，我们以8.7的定位误差排名第二。在PASCAL VOC 2012检测任务中，我们单模型获得了87.9的 mAP，超过了去年Kaiming的模型有4个点之多。

![v2-3b9ec5101b7a2248b03ed42135553ad0_b.jpg][]

\----------

技术揭秘：海康威视PASCAL VOC2012目标检测权威评测夺冠之道   
    近年来，随着深度学习的崛起，计算机视觉得到飞速发展。目标检测作为计算机视觉的基础算法，也搭上了深度学习的快车。基于Proposal的检测框架，从R-CNN到Faster R-CNN，算法性能越来越高，速度越来越快。另一方面，直接回归Bounding Box的框架，从YOLO到SSD，在保持速度优势的同时，性能也逐渐得到提升。“深度学习大讲堂”往期介绍过这方面的进展，在此不再赘述。  
    近期，我们在PASCAL VOC2012目标检测上提交的结果mAP性能达到87.9，刷新了世界记录，排名第一名，如下图所示：    ![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1][]       
  
1.寻找更优的网络结构  
    ”Features matter.” 去年MSRA凭借ResNets \[2\]取得了多项任务性能上的突破。以ResNet-101为基准，有没有网络可以提供更优的特征？我们验证了以下几个网络。    a)       进一步增加网络深度。在12GB显存容量的限制下，101层的网络已经是极限。然而，如果把预训练模型的BN层参数融合进前一层卷积层，然后去掉BN层，则可以容纳ResNet-152。根据我们的实验，在ImageNet DET数据集上，去掉BN层的ResNet-152比保留BN层的ResNet-101还要差约1个点。这说明BN层的作用还是比较重要的。    b)       BN层的训练策略。我们发现训练时如果更新BN层的参数，相比固定参数，性能会下降一大截。原因可能是Faster R-CNN训练时batch size只有1，batch之间的均值/方差变化太大，太不稳定。    c)       MSRA和Facebook相继公开了自己训练的ResNets模型。后续MSRA又提出了Identity Mapping版本的ResNets \[3\]。我们验证发现，Identity Mapping版本的ResNet-101检测性能略优于MSRA的原始ResNet-101模型和Facebook的模型。  
2. 改进RPN Proposal  
    在Faster R-CNN框架里面，RPN提取Proposal和FRCN对Proposal进行分类其实是2个独立的问题。针对RPN，我们做出了以下2处改进：    a)       均衡正负Anchor比例。理想状态下，RPN 正负Anchor的比例是1:1。我们发现，在batch size比较大（256）的情况下，这个比例会非常悬殊。特别是目标数量比较少的图像，正的Anchor数量会非常少。这样训练出来的模型会偏向于背景类别，容易漏检。我们对这个比例做了限制，让负样本数量不超过正样本的1.5倍，发现Proposal的召回率可以提高5个点。    b)       级联RPN。受CRAFT \[4\]的启发，我们设计了自己的级联RPN。\[4\]中先得到标准的RPN Proposal，然后用一个分类性能更强的FRCN分支来改进Proposal质量。我们则是用了2个标准的RPN（图 1）。第一个RPN用滑窗得到的Proposal作为Anchor，第二个RPN用第一个RPN输出的Proposal作为新的Anchor位置。相比\[4\]，我们的算法优势是实现简单，额外增加的计算量非常少。对于中大目标，可以明显提升Proposal位置的准确度。 ![640_wx_fmt_jpeg_tp_webp_wxfrom_5_wx_lazy_1][] 图 1 Cascade RPN网络结构。其中虚线框表示这一层可以省略。  
3. 全局上下文建模  
    每个Proposal对应原始图像中的一个ROI区域。对这个ROI区域进行分类时， FRCN先把ROI映射到中间特征图上，然后在中间特征图上做裁剪（RoIPooling）。裁剪出来的小特征图输入到CNN分类器中。可以看到，CNN分类只使用了ROI区域内的局部特征。实际上，ROI周围的上下文信息对于判断这个ROI类别是很有帮助的。例如对一个乒乓球分类，很容易和光源混淆。如果知道周围有乒乓球拍、乒乓球台等目标，则更容易判断这是个乒乓球。    全局上下文建模是从整幅图像提取特征，然后和每个Proposal的局部特征相融合，用于分类。去年MSRA \[2\]使用全局上下文，得到了1个点的性能提升。然而他们没有发布具体的实现细节。我们实现的全局上下文网络结构如图 2所示。![640_wx_fmt_jpeg_tp_webp_wxfrom_5_wx_lazy_1 1][]             图 2 全局上下文建模网络结构。   
    我们发现，对于图中的全局上下文网络分支，训练时如果采用随机初始化，性能提升非常有限。如果用预训练的参数初始化，在ImageNet DET验证集上可以得到超过3个点的性能提升。对于ResNets，RoIPooling后面的conv5有9层卷积。而Faster R-CNN finetune时一般初始学习速率又会设得比较小（0.001）。这就导致从头训练这9层卷积比较困难。因此，这里预训练显得尤为重要。另外，\[2\]还把全局上下文特征同时用于分类和Bounding Box回归。我们发现全局上下文特征对于Bounding Box回归没有帮助，只对分类有帮助。  
  
4. 训练技巧  
    a)       平衡采样。很多数据集存在样本不均衡的问题，有些类别特别多，有些类别特别少。训练模型时，从一个图像列表中依次读取样本训练。这样的话，小类样本参与训练的机会就比大类少。训练出来的模型会偏向于大类，即大类性能好，小类性能差。平衡采样策略就是把样本按类别分组，每个类别生成一个样本列表。训练过程中先随机选择1个或几个类别，然后从各个类别所对应的样本列表中随机选择样本。这样可以保证每个类别参与训练的机会比较均衡。在PASCAL VOC数据集上，使用平衡采样性能可以提升约0.7个点。    b)       难例挖掘（OHEM \[5\]）。使用了难例挖掘后，收敛更快，训练更稳定。在ImageNet DET数据集上，性能可以提升1个多点。    c)       多尺度训练。使用多尺度训练的话，可以让参与训练的目标大小分布更加均衡，使模型对目标大小具有一定的鲁棒性。  
5.  预测技巧  
    预测阶段，我们用了多尺度预测，水平翻转，和检测框投票。这些策略的具体实现在很多文献中都有描述。这里我们可以分享一下多个检测结果的融合策略。当使用多尺度预测，水平翻转，还有多模型Ensemble时，对于同一张测试图像，我们会得到好几组结果。对于这些结果，最直观的融合方式就是把所有的检测框放在一起，然后用非极大值抑制（NMS）处理一下。但是我们发现另一种方式效果更好，就是把RPN和FRCN分开来做。先对RPN做多尺度、水平翻转、多模型的融合，得到一组固定的Proposal之后，再对FRCN进行多尺度、水平翻转、多模型的融合。RPN的融合用NMS更好，FRCN的融合用对Proposal的置信度和Bounding Box位置取平均值的方式更好。

[Link 1]: http://www.echojb.com/image/2016/10/29/247657.html
[v2-4420bb556529bc294f99afd3c5109de9_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-4420bb556529bc294f99afd3c5109de9_b.jpg
[737444-20161028155318484-1868848712.png]: http://www.echojb.com/img/2016/10/29/737444-20161028155318484-1868848712.png
[737444-20161028163152984-1159974995.png]: http://www.echojb.com/img/2016/10/29/737444-20161028163152984-1159974995.png
[737444-20161028163256812-1303275755.png]: http://www.echojb.com/img/2016/10/29/737444-20161028163256812-1303275755.png
[737444-20161028163514593-1580896985.png]: http://www.echojb.com/img/2016/10/29/737444-20161028163514593-1580896985.png
[737444-20161028163703281-468559970.png]: http://www.echojb.com/img/2016/10/29/737444-20161028163703281-468559970.png
[737444-20161028165031625-670261871.png]: http://www.echojb.com/img/2016/10/29/737444-20161028165031625-670261871.png
[v2-2ea607bca495fb43e5b476d482f9eca7_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-2ea607bca495fb43e5b476d482f9eca7_b.jpg
[v2-38097e389268d90cfdf3ebb0e9e27b76_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-38097e389268d90cfdf3ebb0e9e27b76_b.jpg
[v2-d6f17746ab58e2aa71150fc1221894ee_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-d6f17746ab58e2aa71150fc1221894ee_b.jpg
[v2-93d428d5b2551202c7a487f04bcfadda_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-93d428d5b2551202c7a487f04bcfadda_b.jpg
[v2-95865b813291bec665c1c8130cdf13e9_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-95865b813291bec665c1c8130cdf13e9_b.jpg
[v2-be5c4d4759d55c5271acadc3ad2d588b_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-be5c4d4759d55c5271acadc3ad2d588b_b.jpg
[v2-a5be0c98a1e6829652fc15c81a960e9f_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-a5be0c98a1e6829652fc15c81a960e9f_b.jpg
[v2-4932aca2e45c04c8e55ef6de41059980_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-4932aca2e45c04c8e55ef6de41059980_b.jpg
[v2-6ca5a27eebe9f4d573a3146a3e9b0a52_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-6ca5a27eebe9f4d573a3146a3e9b0a52_b.jpg
[v2-02d93f5ba2e2fd93a492a58591bee613_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-02d93f5ba2e2fd93a492a58591bee613_b.jpg
[v2-3b9ec5101b7a2248b03ed42135553ad0_b.jpg]: http://www.echojb.com/img/2016/10/29/v2-3b9ec5101b7a2248b03ed42135553ad0_b.jpg
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1]: /images/20210520/f48c21d184ae42e4a66078cb9964175a.png
[640_wx_fmt_jpeg_tp_webp_wxfrom_5_wx_lazy_1]: /images/20210520/73cb68937f634aca9240c5a32e9d3519.png
[640_wx_fmt_jpeg_tp_webp_wxfrom_5_wx_lazy_1 1]: /images/20210520/825a337637744d958cc8d77037a3bc8e.png