【计算机视觉面经三】卷积神经网络的平移不变性理解

r囧r小猫 2024-05-05 22:23 6阅读 0赞

#### 文章目录 ####

*  一、什么是平移不变性
 *  二、为什么会有平移不变性
 *   *  2.1 卷积
     *  2.2 池化

## 一、什么是平移不变性 ##

**不变性就是目标发生了变换，但是你依然可以识别出来。在图像任务中，我们希望图像中的目标即使被平移、被旋转或者被缩放，模型都可以识别出来图像的目标。**

所以不变性有下面几种：

1.  平移不变性：Translation Invariance
2.  旋转不变性：Rotation Invariance
3.  尺度不变性：scale Invariance
4.  光照不变性：Illumination Invariance

**在图像分类任务中，平移不变性就是图像中的目标不管被移动到哪个位置，模型给出的标签应该都是相同的。**

平移不变性对应的有一个概念是平移同变性（translation equivariance），这个是用在图像的目标检测中的，如果输入图像中的目标进行了平移，那么最终检测出来的候选框应该也相应的移动，这就是同时改变。

## 二、为什么会有平移不变性 ##

主要是由两个原因，一个是卷积，一个是最大池化。

### 2.1 卷积 ###

比方说目标是在图像的左上角，经过卷积之后，目标的特征也会在特征图的左上角；目标在图像的左下角，经过相同的卷积核卷积之后，目标的特征也会在特征图的左下角。然后卷积层后面接上一个全连接层进行分类，就算目标位置改变了，但是经过相同的卷积核卷积，然后展开变成全连接层。所以对于全连接层来说，改变的之后特征的位置。可能之前目标的特征是作为全连接的第一个神经元的输入，平移目标位置之后，该特征就作为全连接的最后一个神经元的输入。

不过这种说法想体现的就是，就算目标位置变了，经过相同卷积核提取的特征该有的都有，只是位置变了。

**简单地说，卷积+最大池化约等于平移不变性。**

**卷积简单地说，图像经过平移，相应的特征图上的表达也是平移的。**

**在神经网络中，卷积被定义为不同位置的特征检测器，也就意味着，无论目标出现在图像中的哪个位置，它都会检测到同样的这些特征，输出同样的响应。**

比如人脸被移动到了图像左下角，卷积核直到移动到左下角的位置才会检测到它的特征。

### 2.2 池化 ###

比如最大池化，它返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。

所以这两种操作共同提供了一些平移不变性，即使图像被平移，卷积保证仍然能检测到它的特征，池化则尽可能地保持一致的表达。

为什么池化可以提供平移不变性？我觉得这个相比上面的解释，是有一定的道理的。最大池化层返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。

发表评论取消回复

表情：

评论列表（有 0 条评论，6人围观）

还没有评论，来说两句吧...

相关阅读

相关【计算机视觉面经三】卷积神经网络的平移不变性理解

【计算机视觉面经三】卷积神经网络的平移不变性理解

r囧r小猫/ 2024年05月05日 22:23/ 0 赞/ 7 阅读

相关【计算机视觉面经二】卷积神经网络中的理解：通道(channel)和空间(spatial)信息

【计算机视觉面经二】卷积神经网络中的理解：通道(channel)和空间(spatial)信息

落日映苍穹つ/ 2024年05月05日 22:23/ 0 赞/ 6 阅读

相关【计算机视觉面经一】 1x1卷积的介绍与用处

【计算机视觉面经一】 1x1卷积的介绍与用处

迷南。/ 2024年05月05日 22:23/ 0 赞/ 9 阅读

相关计算机视觉中的深度学习8: 卷积神经网络的结构

Slides：[百度云][Link 1] 提取码: gs3n 今天这一讲，我们以ImageNet Classification Challenge中使用的CNN的发展来进行介

「爱情、让人受尽委屈。」/ 2022年12月05日 15:29/ 0 赞/ 167 阅读

相关计算机视觉中的深度学习7: 卷积神经网络

Slides：[百度云][Link 1] 提取码: gs3n 之前说了全连接神经网络，说了线性分类，这些东西全都没有保留图片原本的2D特性，全都是将图片转化为1D的数组。

素颜马尾好姑娘i/ 2022年12月01日 14:06/ 0 赞/ 120 阅读

相关神经网络-卷积神经网络

卷积神经网络最基本的操作：卷积、池化、全连接 1、卷积操作什么是卷积操作？我们先定义一个目的，让卷积神经网络去识别数字 “17” 和字母 “L”。有三张图片，

小鱼儿/ 2022年11月12日 01:41/ 0 赞/ 285 阅读

相关如何理解卷积神经网络？

卷积神经网络（convolutional neural net，CNN）得名于在数据样本上用滑动窗口（或卷积）的概念。卷积在数学中应用很广泛，通常与时间序列数据相关。在本章

短命女/ 2022年10月08日 02:22/ 0 赞/ 150 阅读

相关计算机视觉与神经网络,深度学习基础 (十四)--计算机视觉与卷积神经网络

计算机视觉之前讲神经网络基础的时候就简单介绍过，在图像识别的场景中，计算机都是从先识别表层特征，然后慢慢通过这些表层特征来识别出深层的图像。过程差不多是下面的这个样子

你的名字/ 2022年10月07日 05:47/ 0 赞/ 210 阅读

相关 CNN：通俗理解卷积神经网络

转载自：[http://www.2cto.com/kf/201607/522441.html][http_www.2cto.com_kf_201607_522441.html]

太过爱你忘了你带给我的痛/ 2022年09月30日 13:44/ 0 赞/ 223 阅读

相关通俗理解卷积神经网络

通俗理解卷积神经网络（cs231n与5月dl班课程笔记）原文链接：http://blog.csdn.net/v\_july\_v/article/details/518

亦凉/ 2022年07月16日 15:20/ 0 赞/ 178 阅读