旷视YOLOX：更快更强！

缺乏、安全感 2022-08-31 09:40 247阅读 0赞

本文转载自机器之心 编辑：杜伟、陈萍

> 在本文中，来自旷视的研究者提出高性能检测器 YOLOX，并对 YOLO 系列进行了经验性改进，将 Anchor-free、数据增强等目标检测领域先进技术引入 YOLO。获得了超越 YOLOv3、YOLOv4 和 YOLOv5 的 AP，而且取得了极具竞争力的推理速度。

随着目标检测技术的发展，YOLO 系列始终追寻可以实时应用的最佳速度和准确率权衡。学界人士不断提取当时最先进的检测技术（如 YOLOv2 的 anchor、YOLOv3 的残差网络），并对这些检测技术进行优化以实现最佳性能。目前，YOLOv5 在速度和准确率上有最好的权衡，在 COCO 数据集上以 13.7ms 的速度获得 48.2% AP。

然而，过去两年时间里，目标检测领域的主要进展集中在无锚点（anchor-free）检测器、先进的标签分配策略以及端到端的（NMS-free）检测器。但是，这些技术还没有集成到 YOLO 系列模型中，YOLOv4 、 YOLOv5 仍然还是基于 anchor 的检测器，使用手工分配策略进行训练。

近日，旷视的研究者将解耦头、数据增强、无锚点以及标签分类等目标检测领域的优秀进展与 YOLO 进行了巧妙地集成组合，提出了 YOLOX，不仅实现了超越 YOLOv3、YOLOv4 和 YOLOv5 的 AP，而且取得了极具竞争力的推理速度。

![9be2795cd3edf4707af7f4a0a859d39e.png][]

*  论文地址：https://arxiv.org/abs/2107.08430
 *  项目地址：https://github.com/Megvii-BaseDetection/YOLOX

考虑到 YOLOv4、YOLOv5 在基于 anchor pipeline 中可能会出现一些过拟合，研究者选择 YOLOv3 作为起点（将 YOLOv3-SPP 设置为默认的 YOLOv3）。事实上，由于计算资源有限，以及在实际应用中软件支持不足，YOLOv3 仍然是业界应用最广泛的检测器之一。

如下图 1 所示，通过将目标检测领域优秀进展与 YOLO 进行组合，研究者在图像分辨率为 640 × 640 的 COCO 数据集上将 YOLOv3 提升到 47.3% AP（YOLOX-DarkNet53），大大超过了目前 YOLOv3（44.3% AP，ultralytics version2）的最佳实践。

此外，当将网络切换到先进的 YOLOv5 架构，该架构采用先进的 CSPNet 骨干以及一个额外的 PAN 头，YOLOX-L 在 COCO 数据集、图像分辨率为 640 × 640 获得 50.0% AP，比 YOLOv5-L 高出 1.8% AP。研究者还在小尺寸上测试所设计的策略，YOLOX-Tiny 和 YOLOX-Nano（仅 0.91M 参数和 1.08G FLOPs）分别比对应的 YOLOv4-Tiny 和 NanoDet3 高出 10% AP 和 1.8% AP。

![fe5604a0d8ed0586a42b956403b464cb.png][]

在 CVPR 2021 WAD 挑战赛的 Streaming Perception Challenge 赛道上，旷视提出的基于 YOLOX 模型（YOLOX-L）的 2D 实时目标检测系统在 Argoverse-HD 数据集上实现了 41.1 的 streaming AP。此外，研究者在推理时用到了 TensorRT 优化器，使得模型在高分辨输入（即 1440×2304）时实现了 30 fps 的推理速度。

![516a0a07446105d8e29129953a6e063b.png][]

*图源：https://eval.ai/web/challenges/challenge-page/800/overview*

**YOLOX-DarkNet53**

研究者选择将 YOLOv3+Darknet53 作为基线模型，并基于它详细介绍了 YOLOX 的整个系统设计。

**实现细节**

从基线模型到最终模型，研究者的训练设置基本保持一致。他们在 COCO train2017 数据集上训练了 300 个 epoch 的模型并进行 5 个 epoch 的 warmup，使用随机梯度下降（SGD）来训练，学习率为 lr×BatchSize/64 ，初始学习率为 0.01，并使用了余弦（cosine）学习机制。权重衰减为 0.0005，SGD momentum 为 0.9。批大小默认为 128（8 个 GPU），其他批大小使用单个 GPU 训练也运行良好。输入大小以 32 步长从 448 均匀过渡到 832。FPS 和延迟在单个 Tesla V100 上使用 FP16-precision 和 batch=1 进行测量。

** YOLOv3 基线模型**

基线采用了 DarkNet53 骨干和 SPP 层的架构（在一些论文中被称作 YOLOv3-SPP）。与初始实现相比，研究者稍微改变了一些训练策略，添加了 EMA 权重更新、余弦学习机制、IoU 损失和 IoU 感知分支。他们使用 BCE 损失训练 cls 和 obj 分支，使用 IoU 损失训练 reg 分支。这些通用的训练技巧对于 YOLOX 的关键改进呈正交，因此将它们应用于基线上。此外，研究者还添加了 RandomHorizontalFlip、ColorJitter 和多尺度数据增强，移除了 RandomResizedCrop 策略。

通过这些增强技巧，YOLOv3 基线模型在 COCO val 数据集上实现了 38.5% 的 AP，具体如下表 2 所示：

![c45f6ea8c900ef5cb9d6006043c24fc2.png][]

**解耦头**

在目标检测中，分类与回归任务之间的冲突是一个众所周知的难题，因此用于分类和定位的解耦头被广泛用于大多数单阶段和双阶段检测器中。但是，随着 YOLO 系列模型骨干和特征金字塔（如 FPN 和 PAN）持续进化，它们的检测头依然处于耦合状态，YOLOv3 头与本文提出的解耦头之间的架构差异如下图 2 所示：

![53d0631d8c4d4394eb497e75014e1265.png][]

下图 3 为使用 YOLOv3 头和解耦头时的检测器训练曲线：

![492d401abf8378b44e366c80dc496cbd.png][]

从下表 1 可以看到，使用耦合头时端到端性能降低了 4.2% 的 AP，而使用解耦头时仅仅降低了 0.8% AP。因此，研究者将 YOLO 检测头替换为一个轻量（lite）解耦头，由此极大地提升了收敛速度。

![1b86e0fad3312c5a5b255668551123d6.png][]

具体地，这个轻量解耦头包含一个 1 × 1 卷积层以减少通道维度，之后紧接着两个 3 × 3 卷积层的并行分支，具体架构参见上图 2。

研究者给出了在单个 Tesla V100 上，使用 batch=1 时的推理时间。如上表 2 所示，轻量解耦头可以带来 1.1 ms 的推理延时。

**强（strong）数据增强策略**

研究者在增强策略中加入了 Mosaic 和 MixUp 以提升 YOLOX 的性能，他们在模型中采用 MixUp 和 Mosaic 实现，并在最后 15 个 epoch 的训练中关闭。如上表 2 所示，基线模型实现了 42.0% 的 AP。在使用强数据增强策略之后，研究者发现 ImageNet 预训练不再具有更多增益，因此所有模型都从头开始训练。

**无锚点（anchor-free）**

YOLOv4 和 YOLOv5 都遵循 YOLOv3 的基于锚的初始 pipeline，然而锚机制存在许多已知的问题。过去两年，无锚检测器发展迅速。相关研究表明，无锚检测器的性能可以媲美基于锚的检测器。无锚点机制显著减少了实现良好性能所需的启发式调整和技巧（如 Anchor Clustering、Grid Sensitive）的设计参数数量，从而使得检测器变得更简单，尤其是在训练和解码阶段。

将 YOLO 转变为无锚点模式也非常简单。研究者将每个位置的预测从 3 降至 1，并使它们直接预测四个值，即两个 offset 以及预测框的高宽值。他们将每个目标的中心位置指令为正样本，并预定义一个尺度范围，以确定每个目标的 FPN 水平。这种改进减少了检测器的参数量和 GFLOP，并使其速度更快，与此同时获得了更好的性能，即 42.9% AP（具体如上表 2 所示）。

**多个正样本**

为了确保与 YOLOv3 的分配规则一致，上述无锚点版本仅为每个目标分配一个正样本（中心位置），同时忽略了其他高质量的预测。研究者将中心 3×3 区域分配为正样本，并命名为「中心采样」。如上表 2 示，检测器的性能提升至 45.0% AP，已经超越了当前 SOTA ultralytics/yolov3 版本的 44.3%AP。

**SimOTA**

先进标签分配（Advanced label assignment ）是近年来目标检测领域中另一个重要进展。该研究将其作为候选标签分配策略。

但是在实践中，该研究发现通过 Sinkhorn-Knopp 算法解决 OT 问题会带来 25% 额外训练时间，这对于 300 epoch 来说代价非常高。因此，该研究将其简化为动态 top-k 策略，命名为 SimOTA，以获得近似解。

SimOTA 不仅减少了训练时间，同时避免了 SinkhornKnopp 算法中额外超参数问题。如表 2 所示，SimOTA 将检测器的 AP 从 45.0% 提高到 47.3%，比 SOTA ultralytics-YOLOv3 高出 3.0%。

**端到端的 YOLO**

该研究参考 PSS 添加了两个额外的卷基层、一对一的标签分配、stop gradient。这些使得检测器能够以端到端方式执行，但会略微降低性能和推理速度，如表 2 所示。该研究将其作为一个可选模块，但在最终的模型中并没有涉及。

**在其他骨干网络的实验结果**

除了 DarkNet53，该研究还在其他不同大小的骨干上测试了 YOLOX，结果表明 YOLOX 都实现了性能提升。

**改进 YOLOv5 中的 CSPNet**

为了公平的进行比较，该研究采用 YOLOv5 骨干，包括改进的 CSPNet、SiLU 激活函数、PAN 头。此外，该研究还遵循扩展规则来生成 YOLOXS、YOLOX-M、 YOLOX-L、YOLOX-X 模型。与 YOLOv5 在表 3 的结果相比，该模型在仅需非常少的额外推理耗时，取得了 3.0%~1.0% 的性能提升。

![bda7ebb02db8d7f5f0b6452b5936e3c6.png][]

**Tiny 和 Nano 检测器**

该研究进一步将模型缩小为 YOLOX-Tiny，并与 YOLOv4-Tiny 进行比较。对于移动端设备，研究者采用深度卷积构建 YOLOX-Nano 模型，模型仅有 0.91M 参数量以及 1.08G FLOP。如表 4 所示，YOLOX 在更小的模型尺寸下表现良好。

![490f8653ecf0eee1c9c4f5ac832e5d4c.png][]

**模型大小与数据增强**

在实验中，所有模型都保持了几乎相同的学习进度和优化参数。然而，研究发现适当的数据增强策略因模型大小而异。如表 5 所示，YOLOX-L 采用 MixUp 能提高 0.9%AP，对于诸如 YOLOX-Nano 这种小型模型来说，最好是弱化增强。

具体来说，当训练诸如 YOLOX-S、 YOLOX-Tiny、YOLOX-Nano 这种小模型时，需要去除混合增强并弱化 mosaic（将扩展范围从 \[0.1, 2.0\] 降到 \[0.5, 1.5\]）。这种改进将 YOLOX-Nano 的 AP 从 24.0% 提高到 25.3%。

![b1ac9e94dd62a3e8bdee589007d3e159.png][]

**与 SOTA 结果对比**

下表 6 为 YOLOX 与 SOTA 检测器的对比结果。在 COCO 2017 test-dev 数据集上进行了不同物体检测器的速度和准确率比较。研究者选择在 300 epoch 上训练所有模型并进行了公平比较。由结果可得，与 YOLOv3、YOLOv4、YOLOv5 系列进行比较，该研究所提出的 YOLOX 取得了最佳性能，获得 51.2%AP，高于其他模型，同时具有极具竞争力的推理速度。

![9c9ae272edcc7e78f411621ada7aaa02.png][]

**猜您喜欢：**

**[等你着陆！【GAN生成对抗网络】知识星球！][GAN]  **

**[CVPR 2021 | GAN的说话人驱动、3D人脸论文汇总][CVPR 2021 _ GAN_3D]**

**[CVPR 2021 | 图像转换 今如何？几篇GAN论文][CVPR 2021 _ _ _GAN]**

[**【CVPR 2021】通过GAN提升人脸识别的遗留难题**][CVPR 2021_GAN]

[**CVPR 2021生成对抗网络GAN部分论文汇总**][CVPR 2021_GAN 1]

[**经典GAN不得不读：StyleGAN**][GAN_StyleGAN]

[**最新最全20篇！基于 StyleGAN 改进或应用相关论文**][20_ StyleGAN]

**[超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

[**附下载 | 《Python进阶》中文版**][_ _Python]

[**附下载 | 经典《Think Python》中文版**][_ _Think Python]

[**附下载 | 《Pytorch模型训练实用教程》**][_ _Pytorch]

[**附下载 | 最新2020李沐《动手学深度学习》**][_ _2020]

**[附下载 | 《可解释的机器学习》中文版][Link 1]**

[**附下载 |《TensorFlow 2.0 深度学习算法实战》**][_TensorFlow 2.0]

**[附下载 | 超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

**[附下载 |《计算机视觉中的数学方法》分享][Link 2]**

![25ea302e79eb84633eb00bc54f5b14af.png][]

[9be2795cd3edf4707af7f4a0a859d39e.png]: /images/20220829/daa29bf8b9c64f94bb5bae821c03fb64.png
[fe5604a0d8ed0586a42b956403b464cb.png]: /images/20220829/1cfc1320e70c4f3b9d8a4aa8e307cb20.png
[516a0a07446105d8e29129953a6e063b.png]: /images/20220829/12fdbf29e4fa4fe88ae41550f0b51c7d.png
[c45f6ea8c900ef5cb9d6006043c24fc2.png]: /images/20220829/e03e3fbdf59248af95b6e1a7e5a38b5b.png
[53d0631d8c4d4394eb497e75014e1265.png]: /images/20220829/f32ea4cc6b2849a0814b62fee8d99dca.png
[492d401abf8378b44e366c80dc496cbd.png]: /images/20220829/bbc2e3e9658c44ba9706f21615fd083d.png
[1b86e0fad3312c5a5b255668551123d6.png]: /images/20220829/a9d6b6f478bf4487a20b4bbc9559100d.png
[bda7ebb02db8d7f5f0b6452b5936e3c6.png]: /images/20220829/73fdb01d7f964dbdb13ec4986b8026be.png
[490f8653ecf0eee1c9c4f5ac832e5d4c.png]: /images/20220829/a54692de84934999a20544a2929a35f7.png
[b1ac9e94dd62a3e8bdee589007d3e159.png]: /images/20220829/33ac39e6e4424a77b3872f42f9f67967.png
[9c9ae272edcc7e78f411621ada7aaa02.png]: /images/20220829/e4bc1e3ce6b345ac856288f5c8c3412d.png
[GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bf4bc95e365d4f53676d3aa2b80299375e55f9bab3bc7f8ad9405e7ada61d7ac00abb4bf&idx=1&mid=2247491056&scene=21&sn=535829ad04b094f59b2b38eb85cdbb38#wechat_redirect
[CVPR 2021 _ GAN_3D]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a41fac95dc8ec752351699318742fa502dfc945ce072567bb4bf0c59ce83049dc58c1a57d&idx=1&mid=2247492417&scene=21&sn=292be5e5fab52c5df5c94508b898da5a#wechat_redirect
[CVPR 2021 _ _ _GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a4278c95dcb6ebd0ba346a11dc195a0ac4f7830f3a7cf69fcffc7057fa1bf3eaeb9386300&idx=1&mid=2247491779&scene=21&sn=f0a601ca66c01361709e6af8485f629b#wechat_redirect
[CVPR 2021_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe2a4289c95dcb9f047c18e63b3be9d78e5e75f1d94dc80be34686ce6b4f22cdee2d7cc7f2ae&idx=1&mid=2247491634&scene=21&sn=427cb6bfd6868662f2b5ae1ac37f6072#wechat_redirect
[CVPR 2021_GAN 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bfe4c95e36f275332b31b993532b98d52acc76d26c15e2321de4cf52141510bee3ff96af&idx=1&mid=2247490911&scene=21&sn=671926492c3b36e3350db4963f7fcb16#wechat_redirect
[GAN_StyleGAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29bedbc95e37cd709f583372918478ad8d3cff5309a85f3a940e7c0356050278f89d7e1c79&idx=2&mid=2247490656&scene=21&sn=bbe156fef077f23263b57e506ad43314#wechat_redirect
[20_ StyleGAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29b979c95e306f03b134809b16009d06aa0694b03da3368f84625de3700e6a56221d49d1bf&idx=1&mid=2247490498&scene=21&sn=324cfbbde362a728aa5336f4b200f7a3#wechat_redirect
[100_CVPR 2020_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a94cc95e205ae880cb9518cb16a54c0abde69e5a8654f7fedf70a0cc990775265bf28a1c&idx=1&mid=2247486455&scene=21&sn=94156f53845cdf07e859e343862be745#wechat_redirect
[_ _Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29abb6c95e22a04d1eb019f964c8ae97b2f3af98c22f730f5d5ed2aea9fdb320b00c688967&idx=2&mid=2247485709&scene=21&sn=55a51c98ab48f393ba305c082ba0e4fe#wechat_redirect
[_ _Think Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a418c95e2d0e9a3de46e0e4d1b8d4947154d8639418a511a3091300aa31699932046556e&idx=2&mid=2247485091&scene=21&sn=f569d5d70c2e6c9cc567fbc5147787a4#wechat_redirect
[_ _Pytorch]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa78c95e236e380c9fd2ae79917d7451ccdd4803c5e6047a16f921d1b61d18efc79ada7c&idx=2&mid=2247485635&scene=21&sn=90608bce32fe353cf3c64b39e3406bc3#wechat_redirect
[_ _2020]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4a4c95e2db2aab16bdcefa78795bbb7efbc70b533bb197d73f617558f2f8a523120c6e3&idx=2&mid=2247484959&scene=21&sn=563999cc8d48498beed00270844ceec4#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4bac95e2dac758c4aac10a3aac49eb062bc0829d4ef2ebc8e6d5069d246385c5084a2b4&idx=1&mid=2247484929&scene=21&sn=523220858287ed3e6105919703c8e833#wechat_redirect
[_TensorFlow 2.0]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a5b0c95e2ca6599d4a91d5d40900566b7525de3dd85259e7a6c173aa26aa7ea3641d1aaf&idx=2&mid=2247485195&scene=21&sn=e3387067db29d1759755c6c2ea96c870#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e23993e057fb0dbe09f2810ea07184a439c173f404a7ab657cadcde3d24efa52a&idx=2&mid=2247485492&scene=21&sn=c4fb135de02cd52f06bc61b0e79476e4#wechat_redirect
[25ea302e79eb84633eb00bc54f5b14af.png]: /images/20220829/7aa6961bf9c44b7c850834c3556bf9aa.png