卷积神经网络常见结构

忘是亡心i 2022-05-29 00:51 220阅读 0赞

# 卷积神经网络常见结构 #

--------------------

卷积神经网络中常见的层类型有：

*  卷积层（CONV）
 *  激活函数（ACT 或 RELU）
 *  池化层（POOL）
 *  全连接层（FC）
 *  Batch normalization（BN）
 *  Dropout（DO）

其中常见的组合为：  
![QQ截图20180314091832.png-6.8kB][QQ_20180314091832.png-6.8kB]

**注：** `*` 操作代表这里需要一次或者多次；`?`操作符代表这是可选操作，可以出现0次或者多次。

对于以上重复次数的常见选择是：

*  0<=N<=3  0 <= N <= 3 
 *  M>=0  M >= 0 
 *  0<=K<=2  0 <= K <= 2

--------------------

以上并没有谈及Batch normalization（BN）的位置，BN的位置主要有两种：

1.  normalize **before** activation  
    ![QQ截图20180314092317.png-3.8kB][QQ_20180314092317.png-3.8kB]
2.  normalize **after** activation  
    ![QQ截图20180314092325.png-3.5kB][QQ_20180314092325.png-3.5kB]

增加BN层的好处是，可以提高训练时的准确性和降低损失函数的得分。

**注：** 在大部分情况下，使用`normalize after activation`，可以使得分类得到更高的准确率。

![这里写图片描述][Image 1]

![这里写图片描述][Image 1]

--------------------

更多文档可以查看 [https://github.com/sjsdfg/deeplearning4j-issues][https_github.com_sjsdfg_deeplearning4j-issues]。  
你的star是我持续分享的动力

[QQ_20180314091832.png-6.8kB]: /images/20220529/a50ebf64e9df45499809c7af7748b500.png
[QQ_20180314092317.png-3.8kB]: /images/20220529/bc63669795ef44a4b73bec72984fb9dd.png
[QQ_20180314092325.png-3.5kB]: /images/20220529/ca95ec661154429abfb30525d1561171.png
[Image 1]: 
[https_github.com_sjsdfg_deeplearning4j-issues]: https://github.com/sjsdfg/deeplearning4j-issues

发表评论取消回复

表情：

评论列表（有 0 条评论，220人围观）

还没有评论，来说两句吧...

相关阅读

相关卷积神经网络

在介绍卷积神经网络之前我们先了解一下为什么不使用我们上一节介绍的神经网络（全连接层结构）来处理图像。使用全连接层结构处理图像时会出现以下问题：输入图像需要将图像通过

曾经终败给现在/ 2024年02月17日 08:44/ 0 赞/ 79 阅读

相关卷积神经网络

![1598479-20190918171831229-1154648107.png][] ![1598479-20190918171837970-177932124

我会带着你远行/ 2023年08月17日 16:07/ 0 赞/ 172 阅读

相关神经网络-卷积神经网络

卷积神经网络最基本的操作：卷积、池化、全连接 1、卷积操作什么是卷积操作？我们先定义一个目的，让卷积神经网络去识别数字 “17” 和字母 “L”。有三张图片，

小鱼儿/ 2022年11月12日 01:41/ 0 赞/ 366 阅读

相关卷积神经网络

卷积神经网络转载请注明：http://blog.csdn[.NET][]/stdcoutzyx/article/details/41596663 自今年七月份以来，一

以你之姓@/ 2022年07月15日 02:50/ 0 赞/ 336 阅读

相关卷积神经网络

卷积神经网络转载请注明：http://blog.csdn[.NET][]/stdcoutzyx/article/details/41596663 自今年七月份以来，一

川长思鸟来/ 2022年07月14日 21:25/ 0 赞/ 402 阅读

相关卷积神经网络

概述简单描述首先介绍神经网络的参数。这些参数是由一些可学习的滤波器集合构成的，每个滤波器在空间上（宽度和高度）都比较小`个人觉得这个滤波器就是卷积核`，但是深度和

浅浅的花香味﹌/ 2022年05月31日 13:59/ 0 赞/ 381 阅读

相关卷积神经网络常见结构

卷积神经网络常见结构 -------------------- 卷积神经网络中常见的层类型有：卷积层（CONV）激活函数（ACT 或 RELU）

忘是亡心i/ 2022年05月29日 00:51/ 0 赞/ 221 阅读

相关卷积神经网络

目录概述卷积层卷积层的产生卷积运算填充步幅应用滤波器后的输出数据大小计算三维数据的卷积运算批处理（‘四维数据’）池化层卷积层和池化层

浅浅的花香味﹌/ 2022年02月20日 00:17/ 0 赞/ 533 阅读

相关卷积神经网络

[卷积神经网络][Link 1] 在上篇中介绍的输入层与隐含层的连接称为全连接，如果输入数据是小块图像，比如8×8，那这种方法是可行的，但是如果输入图像是96×96，

曾经终败给现在/ 2021年12月09日 14:55/ 0 赞/ 547 阅读

相关卷积神经网络

阅读网页发现，要学习深度学习，应该首先对 [卷积神经网络（Convolutional Neural Networks，简称CNN）][Convolutional Neural

阳光穿透心脏的1/2处/ 2021年07月16日 18:03/ 0 赞/ 579 阅读