深度学习在图像超分辨率重建中的应用

矫情吗；* 2022-06-18 10:07 180阅读 0赞

超分辨率技术（Super-Resolution）是指从观测到的低分辨率图像重建出相应的高分辨率图像，在监控设备、卫星图像和医学影像等领域都有重要的应用价值。SR可分为两类:从多张低分辨率图像重建出高分辨率图像和从单张低分辨率图像重建出高分辨率图像。基于深度学习的SR，主要是基于单张低分辨率的重建方法，即Single Image Super-Resolution (SISR)。

SISR是一个逆问题，对于一个低分辨率图像，可能存在许多不同的高分辨率图像与之对应，因此通常在求解高分辨率图像时会加一个先验信息进行规范化约束。在传统的方法中，这个先验信息可以通过若干成对出现的低-高分辨率图像的实例中学到。而基于深度学习的SR通过神经网络直接学习分辨率图像到高分辨率图像的端到端的映射函数。

本文介绍几个较新的基于深度学习的SR方法，包括SRCNN，DRCN, ESPCN，VESPCN和SRGAN等。

## 1，SRCNN    ##

Super-Resolution Convolutional Neural Network （SRCNN, PAMI 2016, [代码][Link 1])是较早地提出的做SR的卷积神经网络。该网络结构十分简单，仅仅用了三个卷积层。

![v2-82423d397a228f3b4522769ae9a85e83_b.png][]该方法对于一个低分辨率图像，先使用双三次（bicubic）插值将其放大到目标大小，再通过三层卷积网络做非线性映射，得到的结果作为高分辨率图像输出。作者将三层卷积的结构解释成与传统SR方法对应的三个步骤：图像块的提取和特征表示，特征非线性映射和最终的重建。

三个卷积层使用的卷积核的大小分为为9x9, 1x1和5x5，前两个的输出特征个数分别为64和32. 该文章分别用Timofte数据集（包含91幅图像）和ImageNet大数据集进行训练。相比于双三次插值和传统的稀疏编码方法，SRCNN得到的高分辨率图像更加清晰，下图是一个放大倍数为3的例子。

![v2-a22efaa701ce06df06e2b3bf520609d3_b.png][]对SR的质量进行定量评价常用的两个指标是PSNR(Peak Signal-to-Noise Ratio)和SSIM（Structure Similarity Index）。这两个值越高代表重建结果的像素值和金标准越接近，下图表明，在不同的放大倍数下，SRCNN都取得比传统方法好的效果。![v2-b4ebbda16d8671d39abe06e6cad2d65e_b.png][]2， DRCN

SRCNN的层数较少，同时感受野也较小（13x13）。DRCN (Deeply-Recursive Convolutional Network for Image Super-Resolution, CVPR 2016, [代码][Link 2])提出使用更多的卷积层增加网络感受野（41x41），同时为了避免过多网络参数，该文章提出使用递归神经网络（RNN）。网络的基本结构如下：

![v2-cb1c3003163537f45d5a2ab532d7c4db_b.png][]与SRCNN类似，该网络分为三个模块，第一个是Embedding network，相当于特征提取，第二个是Inference network, 相当于特征的非线性变换，第三个是Reconstruction network,即从特征图像得到最后的重建结果。其中的Inference network是一个递归网络，即数据循环地通过该层多次。将这个循环进行展开，就等效于使用同一组参数的多个串联的卷积层，如下图所示：

![v2-51635e93b7f0eb849cf3d5e19db80d79_b.png][]其中的![H\_1][H_1]到![H\_D][H_D]是D个共享参数的卷积层。DRCN将每一层的卷积结果都通过同一个Reconstruction Net得到一个重建结果，从而共得到D个重建结果，再把它们加权平均得到最终的输出。另外，受到ResNet的启发，DRCN通过skip connection将输入图像与![H\_d][H_d]的输出相加后再作为Reconstruction Net的输入，相当于使Inference Net去学习高分辨率图像与低分辨率图像的差，即恢复图像的高频部分。

实验部分，DRCN也使用了包含91张图像的Timofte数据集进行训练。得到的效果比SRCNN有了较大提高。

## ![v2-c40759b372c4aa962a762d1db470da06_b.png][]3， ESPCN ##

在SRCNN和DRCN中，低分辨率图像都是先通过上采样插值得到与高分辨率图像同样的大小，再作为网络输入，意味着卷积操作在较高的分辨率上进行，相比于在低分辨率的图像上计算卷积，会降低效率。 ESPCN(Real-Time Single Image and Video Super-Resolution Using an Efficient Sub-Pixel Convolutional Neural Network，CVPR 2016, [代码][Link 3])提出一种在低分辨率图像上直接计算卷积得到高分辨率图像的高效率方法。

![v2-bc51e7ffbbd42f4f9e6e9537bc2fcc7a_b.png][]ESPCN的核心概念是亚像素卷积层(sub-pixel convolutional layer)。如上图所示，网络的输入是原始低分辨率图像，通过两个卷积层以后，得到的特征图像大小与输入图像一样，但是特征通道为![r^2][r_2](![r][]是图像的目标放大倍数)。将每个像素的![r^2][r_2]个通道重新排列成一个r x r的区域，对应于高分辨率图像中的一个r x r大小的子块，从而大小为![r^2][r_2] x H x W的特征图像被重新排列成1 x rH x rW大小的高分辨率图像。这个变换虽然被称作sub-pixel convolution, 但实际上并没有卷积操作。

通过使用sub-pixel convolution, 图像从低分辨率到高分辨率放大的过程，插值函数被隐含地包含在前面的卷积层中，可以自动学习到。只在最后一层对图像大小做变换，前面的卷积运算由于在低分辨率图像上进行，因此效率会较高。

![v2-9978df0775ec4be45a2894ce6d853e3c_b.png][]重建效果上，用PSNR指标看来ESPCN比SRCNN要好一些。对于1080HD的视频图像，做放大四倍的高分辨率重建，SRCNN需要0.434s而ESPCN只需要0.029s。![v2-eb45d86cad81d34f451797171903bc5e_b.png][]

## 4， VESPCN ##

在视频图像的SR问题中，相邻几帧具有很强的关联性，上述几种方法都只在单幅图像上进行处理，而VESPCN（ Real-Time Video Super-Resolution with Spatio-Temporal Networks and Motion Compensation, arxiv 2016）提出使用视频中的时间序列图像进行高分辨率重建，并且能达到实时处理的效率要求。其方法示意图如下，主要包括三个方面：

![v2-ba1f3f799d577cf458dee287a8ab8951_b.png][]一是纠正相邻帧的位移偏差，即先通过Motion estimation估计出位移，然后利用位移参数对相邻帧进行空间变换，将二者对齐。二是把对齐后的相邻若干帧叠放在一起，当做一个三维数据，在低分辨率的三维数据上使用三维卷积，得到的结果大小为![r^2\\times H\\times W][r_2_times H_times W]。三是利用ESPCN的思想将该卷积结果重新排列得到大小为![1\\times rH\\times rW][1_times rH_times rW]的高分辨率图像。

Motion estimation这个过程可以通过传统的光流算法来计算，DeepMind 提出了一个Spatial Transformer Networks, 通过CNN来估计空间变换参数。VESPCN使用了这个方法，并且使用多尺度的Motion estimation：先在比输入图像低的分辨率上得到一个初始变换，再在与输入图像相同的分辨率上得到更精确的结果，如下图所示：

![v2-cc6843a2f89818b0b4630917563cedae_b.png][]由于SR重建和相邻帧之间的位移估计都通过神经网路来实现，它们可以融合在一起进行端到端的联合训练。为此，VESPCN使用的损失函数如下：

![v2-81ffc0a97771d2ac7fee62a806b7d906_b.png][]第一项是衡量重建结果和金标准之间的差异，第二项是衡量相邻输入帧在空间对齐后的差异，第三项是平滑化空间位移场。下图展示了使用Motion Compensation 后，相邻帧之间对得很整齐，它们的差值图像几乎为0.

![v2-50981a508d755aee2f69b026082c2cec_b.png][]从下图可以看出，使用了Motion Compensation，重建出的高分辨率视频图像更加清晰。![v2-53f68cf3f91dfdd11c91cbad6c4a137f_b.png][]5， SRGAN

SRGAN (Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network, [arxiv][], 21 Nov, 2016)将生成式对抗网络（GAN)用于SR问题。其出发点是传统的方法一般处理的是较小的放大倍数，当图像的放大倍数在4以上时，很容易使得到的结果显得过于平滑，而缺少一些细节上的真实感。因此SRGAN使用GAN来生成图像中的细节。

传统的方法使用的代价函数一般是最小均方差（MSE），即

![v2-6bbe689fffae1e3991a392caaeb8a1bd_b.png][]

该代价函数使重建结果有较高的信噪比，但是缺少了高频信息，出现过度平滑的纹理。SRGAN认为，应当使重建的高分辨率图像与真实的高分辨率图像无论是低层次的像素值上，还是高层次的抽象特征上，和整体概念和风格上，都应当接近。整体概念和风格如何来评估呢？可以使用一个判别器，判断一副高分辨率图像是由算法生成的还是真实的。如果一个判别器无法区分出来，那么由算法生成的图像就达到了以假乱真的效果。

因此，该文章将代价函数改进为![v2-8fc1773957c067b51082080af51f1dd6_b.png][]第一部分是基于内容的代价函数，第二部分是基于对抗学习的代价函数。基于内容的代价函数除了上述像素空间的最小均方差以外，又包含了一个基于特征空间的最小均方差，该特征是利用VGG网络提取的图像高层次特征：![v2-aea70f5cc362f193fd8022d18e64de72_b.png][]对抗学习的代价函数是基于判别器输出的概率：![v2-5ca7ae9a7648006aa37c502e0e52a2ae_b.png][]其中![D\_\{\\theta D\}()][D_theta D]是一个图像属于真实的高分辨率图像的概率。![G\_\{\\theta G\}(I^\{LR\})][G_theta G_I_LR]是重建的高分辨率图像。SRGAN使用的生成式网络和判别式网络分别如下：

![v2-e200a42d28f1271d0d3f9f0648f0bd90_b.png][]该方法的实验结果如下![v2-d6d1847768f34c335bf1d2821e208ddd_b.png][]从定量评价结果上来看，PSNR和SSIM这两个指标评价的是重建结果和金标准在像素值空间的差异。SRGAN得到的评价值不是最高。但是对于MOS（mean opinion score）的评价显示，SRGAN生成的高分辨率图像看起来更真实。![v2-44d3fa43704296c4642f4704f4658d24_b.png][]参考资料

1， Dong, Chao, et al. "Image super-resolution using deep convolutional networks." IEEE transactions on pattern analysis and machine intelligence 38.2 (2016): 295-307.

2, Kim, Jiwon, Jung Kwon Lee, and Kyoung Mu Lee. "Deeply-recursive convolutional network for image super-resolution." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2016.

3, Shi, Wenzhe, et al. "Real-time single image and video super-resolution using an efficient sub-pixel convolutional neural network." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2016.

4, Caballero, Jose, et al. "Real-Time Video Super-Resolution with Spatio-Temporal Networks and Motion Compensation." arXiv preprint arXiv:1611.05250 (2016).

5, Jaderberg, Max, Karen Simonyan, and Andrew Zisserman. "Spatial transformer networks." Advances in Neural Information Processing Systems. 2015.

6, Ledig, Christian, et al. "Photo-realistic single image super-resolution using a generative adversarial network." arXiv preprint arXiv:1609.04802 (2016).

7, [深度对抗学习在图像分割和超分辨率中的应用 - 知乎专栏][-]

[Link 1]: http://link.zhihu.com/?target=http%3A//mmlab.ie.cuhk.edu.hk/projects/SRCNN.html
[v2-82423d397a228f3b4522769ae9a85e83_b.png]: /images/20220618/7d526d527ae141178a72ad459fee5cb7.png
[v2-a22efaa701ce06df06e2b3bf520609d3_b.png]: http://pic4.zhimg.com/v2-a22efaa701ce06df06e2b3bf520609d3_b.png
[v2-b4ebbda16d8671d39abe06e6cad2d65e_b.png]: /images/20220618/f7886b1db53845ee804fe928454c5085.png
[Link 2]: http://link.zhihu.com/?target=http%3A//cv.snu.ac.kr/research/DRCN/
[v2-cb1c3003163537f45d5a2ab532d7c4db_b.png]: /images/20220618/26de0d49642440a3a4152ba14cfeeb4d.png
[v2-51635e93b7f0eb849cf3d5e19db80d79_b.png]: http://pic2.zhimg.com/v2-51635e93b7f0eb849cf3d5e19db80d79_b.png
[H_1]: http://zhihu.com/equation?tex=H_1
[H_D]: http://zhihu.com/equation?tex=H_D
[H_d]: http://zhihu.com/equation?tex=H_d
[v2-c40759b372c4aa962a762d1db470da06_b.png]: /images/20220618/3b928d58e5d142f4a4650218c1b46120.png
[Link 3]: http://link.zhihu.com/?target=https%3A//github.com/Tetrachrome/subpixel
[v2-bc51e7ffbbd42f4f9e6e9537bc2fcc7a_b.png]: http://pic3.zhimg.com/v2-bc51e7ffbbd42f4f9e6e9537bc2fcc7a_b.png
[r_2]: http://zhihu.com/equation?tex=r%5E2
[r]: http://zhihu.com/equation?tex=r
[v2-9978df0775ec4be45a2894ce6d853e3c_b.png]: http://pic1.zhimg.com/v2-9978df0775ec4be45a2894ce6d853e3c_b.png
[v2-eb45d86cad81d34f451797171903bc5e_b.png]: /images/20220618/a58eeadab6ee4b0586779683c606417a.png
[v2-ba1f3f799d577cf458dee287a8ab8951_b.png]: http://pic2.zhimg.com/v2-ba1f3f799d577cf458dee287a8ab8951_b.png
[r_2_times H_times W]: http://zhihu.com/equation?tex=r%5E2%5Ctimes+H%5Ctimes+W
[1_times rH_times rW]: http://zhihu.com/equation?tex=1%5Ctimes+rH%5Ctimes+rW
[v2-cc6843a2f89818b0b4630917563cedae_b.png]: /images/20220618/74a85b4e1aeb4daabeec51c1b1282541.png
[v2-81ffc0a97771d2ac7fee62a806b7d906_b.png]: /images/20220618/cb2ad9e9162c440dac634306fc13d2e1.png
[v2-50981a508d755aee2f69b026082c2cec_b.png]: http://pic1.zhimg.com/v2-50981a508d755aee2f69b026082c2cec_b.png
[v2-53f68cf3f91dfdd11c91cbad6c4a137f_b.png]: /images/20220618/c21233ae45794e34964e3ab3f0bbbc7d.png
[arxiv]: http://link.zhihu.com/?target=https%3A//arxiv.org/abs/1609.04802
[v2-6bbe689fffae1e3991a392caaeb8a1bd_b.png]: /images/20220618/7b5d7ddf4add44d89ebd3272bbe4e449.png
[v2-8fc1773957c067b51082080af51f1dd6_b.png]: http://pic3.zhimg.com/v2-8fc1773957c067b51082080af51f1dd6_b.png
[v2-aea70f5cc362f193fd8022d18e64de72_b.png]: http://pic3.zhimg.com/v2-aea70f5cc362f193fd8022d18e64de72_b.png
[v2-5ca7ae9a7648006aa37c502e0e52a2ae_b.png]: http://pic3.zhimg.com/v2-5ca7ae9a7648006aa37c502e0e52a2ae_b.png
[D_theta D]: http://zhihu.com/equation?tex=D_%7B%5Ctheta+D%7D%28%29
[G_theta G_I_LR]: http://zhihu.com/equation?tex=G_%7B%5Ctheta+G%7D%28I%5E%7BLR%7D%29
[v2-e200a42d28f1271d0d3f9f0648f0bd90_b.png]: http://pic1.zhimg.com/v2-e200a42d28f1271d0d3f9f0648f0bd90_b.png
[v2-d6d1847768f34c335bf1d2821e208ddd_b.png]: http://pic2.zhimg.com/v2-d6d1847768f34c335bf1d2821e208ddd_b.png
[v2-44d3fa43704296c4642f4704f4658d24_b.png]: /images/20220618/80f5ab82498f4880b2946af198c1dcfe.png
[-]: https://zhuanlan.zhihu.com/p/25201511