Deconvolutional Networks理解

港控/mmm° 2022-04-17 06:47 124阅读 0赞

转自：www.cnblogs.com/tornadomeet/p/3444128.html

深度网络结构是由多个单层网络叠加而成的，而常见的单层网络按照编码解码情况可以分为下面3类：

1.  既有encoder部分也有decoder部分：比如常见的RBM系列（由RBM可构成的DBM, DBN等），autoencoder系列(以及由其扩展的sparse autoencoder, denoise autoencoder, contractive autoencoder, saturating autoencoder等)。
2.  只包含decoder部分：比如sparse coding, 和今天要讲的deconvolution network.
3.  只包含encoder部分，那就是普通的feed-forward network.

Deconvolution network的中文名字是反卷积网络，那么什么是反卷积呢？其概念从字面就很容易理解，假设A=B\*C 表示的是：B和C的卷积是A，也就是说已知B和C，求A这一过程叫做卷积。那么如果已知A和B求C或者已知A和C求B，则这个过程就叫做反卷积了，deconvolution.

Deconvolution network是和convolution network(简称CNN)对应的，在CNN中，是由input image卷积feature filter得到feature map, 而在devonvolution network中，是由feature map卷积feature filter得到input image. 所以从这点看，作者强调deconvolution network是top-down是有道理的（具体可参考Zeiler的Deconvolutional networks），看下图便可知：

![26204535-f514e7e7b6634bc5ae08201507d5aeef.png][]

上图表示的是DN(deconvolution network的简称)的第一层，其输入图像是3通道的RGB图，学到的第一层特征有12个，说明每个输入通道图像都学习到了4个特征。而其中的特征图Z是由对应通道图像和特征分别卷积后再求和得到的。

本人感觉层次反卷积网络和层次卷积稀疏编码网络（Hierarchical Convolution Sparse Coding）非常相似，只是在Sparse Coding中对图像的分解采用的是矩阵相乘的方式，而在DN这里采用的是矩阵卷积的形式。和Sparse coding中train过程交叉优化基图像和组合系数的类似，DN中每次train时也需要交叉优化feature filter和feature map.

**DN的train过程：**

学习DN中第l(小写的L)层网络的特征时，需优化下面的目标函数：

![26204628-2ce8a41c329143019adad0437b13f803.png][]

它是将第l层网络的输出当做第l+1层网络的输入（这和通常的deep network训练过程类似），其中的 ![26204647-5046665f90144da9bdcc3c6257c04273.png][] 表示第l层的特征图k和第l-1层的特征图c的连接情况，如果连接则为1,否则为0. 对上面loss函数优化的思想大致为：

1.  固定  ![26204655-09f068fa50aa40d5b87c60f2ef2ca42b.png][] ，优化 ![26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png][]  ，但是这样不能直接优化（没弄清楚原因，可参考博客下面网友的评论），因此作者引入了一个辅助变量 ![26204821-2062558aa7ac49a28b363a0679ac32a7.png][] ，则这时的loss函数变为：

![26205439-1fc18429624945b0987b3c7280d31fb8.png][]

上式loss函数中对辅助变量 ![26205556-6f9c35fe3bcf4dfabb6f83cce0d1aa28.png][] 和 ![26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png][] 之间的距离进行了惩罚，因此这个辅助变量的引入是合理的，接着交替优化  和  ![26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png][]，直到  ![26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png][]  收敛（具体可参考文章公式细节）。

2. 固定 ![26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png][] ，优化 ![26205916-5f2a24c7d4614b91a13b0b24dbde3888.png][] ，直接采用梯度下降法即可。

**DN的test过程：**

学习到每层网络的filter后，当输入一张新图片时，可同样采用重构误差和特征图稀疏约束来优化得到本层的feature map, 比如在第一层时，需优化：

![26210052-7c77b3cbe2ea480e97421bd5ed062acf.png][]

其中的f是在训练过程中得到的。

提取出图片y的DN特征后（可多层），可以用该特征进行图像的识别，也可以将该特征从上到下一层层卷积下来得到图像y’，而这个图像y’可理解为原图像y去噪后的图像。因此DN提取的特征至少有图像识别和图像去噪2个功能。

不难发现，如果读者对卷积稀疏编码网络熟悉的话，也就比较容易理解反卷积网络了。同理，和sparse coding一样，DA的train过程和test过程的速度都非常慢。

读完这篇paper，不得不佩服搞数学优化的人。

**参考资料：**

Deconvolutional Networks, Matthew D. Zeiler, Dilip Krishnan, Graham W. Taylor and Rob Fergus.

作者：tornadomeet 出处：http://www.cnblogs.com/tornadomeet 欢迎转载或分享，但请务必声明文章出处。 （新浪微博：tornadomeet,欢迎交流！）

分类: [Deep Learning][],[机器学习][Link 1]

标签: [机器学习][Link 2], [Deep Learning][Deep Learning 1]

[26204535-f514e7e7b6634bc5ae08201507d5aeef.png]: /images/20220417/09534bf6fe5b4750a2c2c70958b10177.png
[26204628-2ce8a41c329143019adad0437b13f803.png]: /images/20220417/8f211aca90644faea7ac4b3bfd16cdde.png
[26204647-5046665f90144da9bdcc3c6257c04273.png]: /images/20220417/f407bc099a9d454a9ae5aec1feeca638.png
[26204655-09f068fa50aa40d5b87c60f2ef2ca42b.png]: https://images0.cnblogs.com/blog/381513/201311/26204655-09f068fa50aa40d5b87c60f2ef2ca42b.png
[26204751-33e984c2fb6c4eba83f6f0484ecd99c8.png]: /images/20220417/7392c682d5514d4193efd8379b2db5f9.png
[26204821-2062558aa7ac49a28b363a0679ac32a7.png]: /images/20220417/e14b023038ab423d9f51e481fcdd84f4.png
[26205439-1fc18429624945b0987b3c7280d31fb8.png]: /images/20220417/e0ece7a205c5490594dcf78b1e0ce8fb.png
[26205556-6f9c35fe3bcf4dfabb6f83cce0d1aa28.png]: https://images0.cnblogs.com/blog/381513/201311/26205556-6f9c35fe3bcf4dfabb6f83cce0d1aa28.png
[26205916-5f2a24c7d4614b91a13b0b24dbde3888.png]: /images/20220417/c52ce4ed7fe44e81bc01de6aef3b300e.png
[26210052-7c77b3cbe2ea480e97421bd5ed062acf.png]: /images/20220417/cde56663f2b4480786e49e503975b04a.png
[Deep Learning]: https://www.cnblogs.com/tornadomeet/category/497607.html
[Link 1]: https://www.cnblogs.com/tornadomeet/category/361811.html
[Link 2]: https://www.cnblogs.com/tornadomeet/tag/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/
[Deep Learning 1]: https://www.cnblogs.com/tornadomeet/tag/Deep%20Learning/