两个33的卷积核替代55(三个33卷积核替代77)分析

待我称王封你为后i 2024-04-20 09:19 1阅读 0赞

### 文章目录 ###

*  为什么一个5x5的卷积核可以用两个3x3的卷积核来替代
 *   *  一个5\*5卷积
     *  两个3\*3卷积核
 *  为什么一个7x7的卷积核可以用三个个3x3的卷积核来替代
 *   *  一个7\*7卷积
     *  三个3\*3卷积核
 *  优点总结

# 为什么一个5x5的卷积核可以用两个3x3的卷积核来替代 #

知道了一个理论，两个3x3的卷积核替代5x5的卷积核，可以减少计算量，且最终的计算结果是一样的，但是为什么呢？

我们假设图片是32\*32的

## 一个5\*5卷积 ##

我们使用5\*5的卷积核对其卷积，步长为1，不填充

根据计算公式（n+2\*p-f）/2 + 1

得到的结果是:(32-5)/1+1=28

## 两个3\*3卷积核 ##

1.  然后我们使用2个卷积核为3*3的，这里的两个是指进行2层3*3的卷积：

第一层3\*3：

得到的结果是(32-3)/1+1=30

第二层3\*3：

得到的结果是(30-3)/1+1=28

所以我们的最终结果和5x5的卷积核是一样的，都是28。  
一个5*5的计算量为 5x5xchannels = 25xchannels;  
两个3*3的计算量为 3x3xchannels\*2 = 18xchannels  
明显，两个3x3的卷积的计算量小于一个5x5卷积的计算量

# 为什么一个7x7的卷积核可以用三个个3x3的卷积核来替代 #

同理，一个7x7的卷积核可以用三个个3x3的卷积核来替代。

我们假设图片是32\*32的

## 一个7\*7卷积 ##

我们使用5\*5的卷积核对其卷积，步长为1，不填充

根据计算公式（n+2\*p-f）/2 + 1

得到的结果是:(32-7)/1+1=26

## 三个3\*3卷积核 ##

然后我们使用2个卷积核为3*3的，这里的两个是指进行2层3*3的卷积：

第一层3\*3：

得到的结果是(32-3)/1+1=30

第二层3\*3：

得到的结果是(30-3)/1+1=28

第三层3\*3：

得到的结果是(28-3)/1+1=26

所以我们的最终结果和7x7的卷积核是一样的，都是26。可以互相替换。  
一个7x7的计算量为7x7xchannels = 49xchannels;  
两个3\*3的计算量为 3x3xchannelsx3 = 27xchannels  
所以，三个3x3的卷积的计算量小于一个7x7卷积的计算量

以上是我的理解，如有其它更通俗的理解，欢迎指教。

# 优点总结 #

堆叠含有小尺寸卷积核的卷积层来代替具有大尺寸的卷积核的卷积层，并且能够使得感受野大小不变，而且多个3x3的卷积核比一个大尺寸卷积核有更多的非线性（每个堆叠的卷积层中都包含激活函数），使得decision function更加具有判别性。

发表评论取消回复

表情：

评论列表（有 0 条评论，1人围观）

还没有评论，来说两句吧...

相关阅读

相关两个33的卷积核替代55(三个33卷积核替代77)分析

文章目录 * 为什么一个5x5的卷积核可以用两个3x3的卷积核来替代 * * 一个5\*5卷积 * 两个3\*3卷积核 * 为什么一个7x...

待我称王封你为后i/ 2024年04月20日 09:19/ 0 赞/ 2 阅读

相关卷积神经网络学习路线（二）| 卷积层有哪些参数及常用卷积核类型盘点？

前言上一篇推文介绍了卷积神经网络的组成层以及卷积层是如何在图像中起作用的，推文地址为：https://mp.weixin.qq.com/s/MxYjW02rWfRKPM

r囧r小猫/ 2023年06月20日 06:29/ 0 赞/ 58 阅读

相关卷积原理：几种常用的卷积（标准卷积、深度卷积、组卷积、扩展卷积、反卷积）

0、标准卷积默认你已经对卷积有一定的了解，此处不对标准卷积细讲。举个例子，假设有一个`3×3`大小的卷积层，其输入通道为`16`、输出通道为`32`。那么一般

太过爱你忘了你带给我的痛/ 2023年02月15日 12:44/ 0 赞/ 24 阅读

相关卷积核_华为诺亚方舟实验室开源即插即用的多用卷积核(NeurIPS 2018)

华为诺亚方舟实验室开源了一种即插即用的卷积核，该项工作发表在NeurIPS 2018上，论文题目为《Learning Versatile Filters for Efficie

女爷i/ 2023年01月07日 03:47/ 0 赞/ 106 阅读

相关卷积计算——2. 一些常用于图像的卷积核与应用

> 首先声明一点，我没有做过除了图形、图像、系统以外的其他领域，所以我无法给出在其他领域里出现的卷积核函数，以及解释在其他领域中的卷积具体有什么作用。而卷积本身，我所听说过的，

电玩女神/ 2022年11月07日 04:11/ 0 赞/ 149 阅读

相关 1*1的卷积核与Inception

本文介绍1\1的卷积核与googlenet里面的Inception。正式介绍之前，首先回顾卷积网络的基本概念。 1. 卷积核：可以看作对某个局部的加权求和；它是对应局部感知

约定不等于承诺〃/ 2022年07月12日 05:46/ 0 赞/ 122 阅读

相关 1*1卷积核在卷积神经网络中的作用

1\1卷积过滤器和正常的过滤器一样，唯一不同的是它的大小是1\1，没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中，使用1\1卷积

淡淡的烟草味﹌/ 2022年05月26日 09:43/ 0 赞/ 131 阅读

相关 CNN中的卷积核及TensorFlow中卷积的各种实现

转载： [https://www.cnblogs.com/Yu-FeiFei/p/6800519.html][https_www.cnblogs.com_Yu-FeiFei_

灰太狼/ 2022年05月10日 06:50/ 0 赞/ 242 阅读

相关卷积原理：几种常用的卷积（标准卷积、深度卷积、组卷积、扩展卷积、反卷积）

转载自：[https://blog.csdn.net/chenyuping333/article/details/82531047?utm\_source=blogxgwz6]

太过爱你忘了你带给我的痛/ 2022年04月04日 03:22/ 0 赞/ 717 阅读

相关 [转] 1*1卷积核作用

妈蛋不让直接贴内容，那mark个地址吧： [https://www.zhihu.com/question/56024942][https_www.zhihu.com_ques

- 日理万妓/ 2022年01月05日 05:37/ 0 赞/ 134 阅读