[论文阅读：transformer系列]Deformable DETR: Deformable Transformers for End-to-End Object Detection

男娘i 2022-11-17 03:38 198阅读 0赞

> Facebook AI 提出了 DETR，利用 Transformer 去做目标检测，该方法去除了许多目标检测中的人工设计组件，同时展现了非常好的性能。但是，DETR 存在收敛速度慢和特征分辨率有限等缺陷。为了解决这些问题，来自商汤研究院等机构的研究者提出了可变形 DETR，其注意力模块仅关注于参考点附近的一小部分采样点作为注意力模块中的 key 元素。**可变形 DETR 可以在比 DETR 少 9/10 的训练轮数下，达到更好的性能（尤其是在小物体上）**。在 COCO 基准上的大量实验表明了该方法的有效性。

# 论文题目 #

Deformable DETR: Deformable Transformers for End-to-End Object Detection

> 原文链接：  
> GitHub指路：

# 概述 #

**DETR收敛慢、计算复杂度高，由此诞生了Deformable DETR。**  
当今的目标检测器大多使用了人工设计的组件，如锚框生成、基于规则的训练目标分配、非极大值抑制后处理等。所以它们不是完全端到端的。  
Facebook AI 提出的 DETR【1】无需这些手工设计组件，构建了第一个完全端到端的目标检测器，实现了极具竞争力的性能。DETR 采用了一个简单的结构，即结合了卷积神经网络和 Transformer 【2】的编码器-解码器结构。研究人员利用了 Transformer 既通用又强大的关系建模能力来替代人工设计的规则，并且设计了恰当的训练信号。

虽然DETR的设计非常有趣，而且性能也很好，但它自身也存在着如下两个问题：

1.  与现有的目标检测器相比，它**需要更长的训练轮数才能收敛**。比如，在 COCO 基准【3】上，DETR 需要 500 个 epoch 才能收敛，这比 Faster R-CNN【4】慢了 10 到20倍；
2.  DETR 在检测**小物体**上表现出了较差的性能。当今的目标检测器通常利用了多尺度的特征，从而小物体可以从高分辨率的特征图中检测。但是对于 DETR 来说，高分辨率的特征图将带来不可接受的计算复杂度和内存复杂度。

以上提到的问题可以主要是由于 Transformer 中的组件在处理图像特征图时的天生缺陷：

*  **在初始化时，注意力模块（如公式（1）所示）的注意力权重近似均匀地分布在特征图的所有像素上，所以需要非常长的训练轮数来学习将注意力权重集中于稀疏的有意义的位置。**
 *  另一方面，Transformer 的编码器中**注意力权重计算的复杂度与像素个数的平方成正比**。因而它需要非常高的计算和内存复杂度来处理高分辨率的特征图。  
    ![在这里插入图片描述][20210408091811421.png]  
    在图像领域，可变形卷积【5】是一个非常强大而且高效的机制，它将注意力集中于稀疏的空间位置。虽然天生避免了上面提到的这些问题。但它缺乏关系建模机制这一元素，而这是 DETR 成功的一大关键。

所以，在本文中提出了**可变形 DETR**，解决了 **DETR 收敛慢、计算复杂度高**这两大问题。

# 算法与模型 #

**可变形 DETR 结合了可变形卷积中的稀疏空间采样的优势和 Transformer 中的关系建模能力。** 研究者提出了可变形注意力模块（如公式（2）所示），它关注于一小部分采样的位置，作为从特征图所有像素中**预先筛选出显著的 key 元素**。  
![在这里插入图片描述][20210408092011771.png]  
这一模块天生可以被扩展到聚合多尺度特征上（如公式（3）所示），而不需要 FPN【6】的帮助。  
![在这里插入图片描述][20210408092102810.png]  
可变形 DETR 目标检测器用（多尺度）可变形注意力模块替换 Transformer 注意力模块来处理特征图，如下图 1 所示。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70]  
由于可变形 DETR 的快速收敛性和计算、内存高效性，它打开了探索端到端目标检测器的变种的可能性。此外，研究者探索了一个简单而有效的**迭代式物体边界框细化机制**来进一步提高检测性能。他们也尝试了**两阶段可变形 DETR**，其中第一阶段的 region proposals 也是由可变形 DETR 的一个变种生成，然后被进一步输入到解码器进行迭代式物体边界框细化。

研究者在 COCO 基准【3】上的大量实验展示了这一方法的有效性。与 DETR 相比，可变形 DETR10 训练轮数降至 1/10（见下图 2），但达到了更好的性能（尤其是在小物体上，见下表 1）。

# 实验结果 #

可变形 DETR 与 DETR 在 COCO 2017 val set 上的性能对比：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 1]  
可变形 DETR 和 DETR 的收敛曲线对比：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 2]  
可变形 DETR 与当前最为先进的目标检测器在 COCO 2017 test-dev 上的性能对比如下表 3 所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 3]

> 参考文献  
> 【1】Nicolas Carion, Francisco Massa, Gabriel Synnaeve, Nicolas Usunier, Alexander Kirillov, and Sergey Zagoruyko. End-to-end object detection with transformers. In ECCV, 2020.  
> 【2】Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, and Illia Polosukhin. Attention is all you need. In NeurIPS, 2017.  
> 【3】Tsung-Yi Lin, Michael Maire, Serge Belongie, James Hays, Pietro Perona, Deva Ramanan, Piotr Doll´ar, and C Lawrence Zitnick. Microsoft coco: Common objects in context. In ECCV, 2014.  
> 【4】Shaoqing Ren, Kaiming He, Ross Girshick, and Jian Sun. Faster r-cnn: Towards real-time object detection with region proposal networks. In NeurIPS, 2015.  
> 【5】Jifeng Dai, Haozhi Qi, Yuwen Xiong, Yi Li, Guodong Zhang, Han Hu, and Yichen Wei. Deformable convolutional networks. In ICCV, 2017.  
> 【6】Tsung-Yi Lin, Piotr Doll´ar, Ross Girshick, Kaiming He, Bharath Hariharan, and Serge Belongie. Feature pyramid networks for object detection. In CVPR, 2017a.

--------------------

> 分享来源：[链接在此][Link 1]

[20210408091811421.png]: /images/20221022/7d7f14adf16444aaac66949c6f523317.png
[20210408092011771.png]: /images/20221022/0652ddc2f72f4016adf339baf2df62f6.png
[20210408092102810.png]: /images/20221022/a7b10e4dbd644eeba52b838c51f10e20.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70]: /images/20221022/19a38660554e41c2b1d940cdf8a19ea7.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 1]: /images/20221022/ba3d718b5de44a84978aed8041f81a47.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 2]: /images/20221022/9d4a4c71ef044a6d93c277fbf2f1919f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4MjI5_size_16_color_FFFFFF_t_70 3]: /images/20221022/35db97e32a0b4c35b2db355ea9130518.png
[Link 1]: https://www.linkresearcher.com/theses/18d8fb9e-ee49-4a93-938f-ceab7d1c4f45