常被误解的DCGAN

青旅半醒 2022-10-27 12:13 214阅读 0赞

> 点击上方“**机器学习与生成对抗网络**”，关注"星标"
> 
> 获取有趣、好玩的前沿干货！

![format_png][]

### 1.DCGAN的主要动机 ###

*  大家都知道GAN在2014年被提出后，随后的DCGAN是第一个使用了卷积进行图像生成的GAN变体。但往往也因此而忽略了原论文最开始的动机——作者们并不是以**生成图像**为最主要动机，而要解决的是：**表征学习问题**。

我们可以再看原论文摘要:

*注：如果各位看官不习惯英语，可直接跳过看下面的翻译：）*

> In recent years, supervised learning with convolutional networks (CNNs) has seen huge adoption in computer vision applications. Comparatively, unsupervised learning with CNNs has received less attention. In this work we hope to help bridge the gap between the success of CNNs for supervised learning and unsupervised learning. We introduce a class of CNNs called deep convolutional generative adversarial networks (DCGANs), that have certain architectural constraints, and demonstrate that they are a strong candidate for unsupervised learning. Training on various image datasets, we show convincing evidence that our deep convolutional adversarial pair learns a hierarchy of representations from object parts to scenes in both the generator and discriminator. Additionally, we use the learned features for novel tasks - demonstrating their applicability as general image representations.

*  好了，允许我做一番拙劣翻译如下：

*近年来，通过卷积网络（CNN）进行监督学习的方法已在计算机视觉应用中得到了广泛采用。相比之下，CNN的无监督学习受到的关注较少。在这项工作中，我们希望帮助缩小CNN在监督学习与无监督学习之间的差距。我们介绍一种遵循着一些网络结构设计约束的深度卷积生成对抗网络（DCGAN），并证明它是无监督学习的强大候选者。在各种图像数据集上的训练结果令人信服，即深度卷积生成器和判别器都学习到了从对象局部到场景的特征层次结构。此外，我们将学习到的特征用于新颖的任务——这更进一步展示了其作为通用图像特征表示的适用性。*

*  实际上，DCGAN的论文标题就是：**“UNSUPERVISED REPRESENTATION LEARNING WITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS”**
 *  评估无监督表示学习算法优劣的一种常用手段是：将其作为特征提取器应用在有标签的监督数据集上以评估性能。为了评估DCGAN提取的特征在监督任务上的效果，论文在Imagenet-1k上进行训练，然后使用判别器的所有卷积层特征、通过最大池化来生成4×4空间特征；然后将它们铺平、拼接得到28672维向量。以正则线性L2-SVM分类器进行训练，在cifar10上可达到82.8％的准确率。

![format_png 1][]

### 2.DCGAN生成多大的图像？ ###

作为几乎是初学者入门GAN的第一个上手实操的GAN变体，我经常会遇到他们这么一个问题：*“GAN也太辣鸡了吧，生成的图像都啥玩意儿呢”*

*  事实上，它们很多时候直接那这个最基础简单的DCGAN去去生成256 X 256分辨率以上的图像！而且，它们仅仅使用数百或几千幅图像（当然，这也需要看图像的内容场景复杂与否
 *  不要忘了，DCGAN只适合生成32X32和64X64的图像。大分辨率图像请参照StyleGAN、PGGAN之类！

**猜您喜欢：**

[**超100篇！CVPR 2020最全GAN论文梳理汇总！**][100_CVPR 2020_GAN]

[拆解组新的GAN：解耦表征MixNMatch][GAN_MixNMatch]

[StarGAN第2版：多域多样性图像生成][StarGAN_2]

[附下载 | 《可解释的机器学习》中文版][Link 1]

[附下载 |《TensorFlow 2.0 深度学习算法实战》][_TensorFlow 2.0]

[附下载 |《计算机视觉中的数学方法》分享][Link 2]

[《基于深度学习的表面缺陷检测方法综述》][Link 3]

[《零样本图像分类综述: 十年进展》][Link 4]

[《基于深度神经网络的少样本学习综述》][Link 5]

![format_png 2][]

[format_png]: /images/20221024/d5be08d8ae63432da5fce348bdcb9a39.png
[format_png 1]: /images/20221024/2e23b34d27fd41b491b16b559b2ada37.png
[100_CVPR 2020_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a94cc95e205ae880cb9518cb16a54c0abde69e5a8654f7fedf70a0cc990775265bf28a1c&idx=1&mid=2247486455&scene=21&sn=94156f53845cdf07e859e343862be745#wechat_redirect
[GAN_MixNMatch]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aaa9c95e23bf3131249a8d008ce3acdff7c52c7f6be84d92c6d607ca804b5ceb2a4222e3&idx=1&mid=2247485458&scene=21&sn=9f562c1de84dada67268f88c72ff77ff#wechat_redirect
[StarGAN_2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29ab6ec95e22785abb2afbb2e2b1c95780a4d6bfceeb915118440b41a81769a8776dcc62b7&idx=1&mid=2247485909&scene=21&sn=048d1336b8083bac3755e27a1f968d06#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4bac95e2dac758c4aac10a3aac49eb062bc0829d4ef2ebc8e6d5069d246385c5084a2b4&idx=1&mid=2247484929&scene=21&sn=523220858287ed3e6105919703c8e833#wechat_redirect
[_TensorFlow 2.0]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a5b0c95e2ca6599d4a91d5d40900566b7525de3dd85259e7a6c173aa26aa7ea3641d1aaf&idx=2&mid=2247485195&scene=21&sn=e3387067db29d1759755c6c2ea96c870#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e23993e057fb0dbe09f2810ea07184a439c173f404a7ab657cadcde3d24efa52a&idx=2&mid=2247485492&scene=21&sn=c4fb135de02cd52f06bc61b0e79476e4#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e2399a93dae3af3b13626643b18cf42842d1a7ada0de46486fa8b865aa2421d2f&idx=1&mid=2247485492&scene=21&sn=6f8af433521b5fee5aceab62e0111115#wechat_redirect
[Link 4]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a44fc95e2d597fc88ca7f10cae079f821deedb6f93b10f0985aa8f6f7c06e369d716f785&idx=1&mid=2247485172&scene=21&sn=f65b58ed3b4c1d09163271069dce4738#wechat_redirect
[Link 5]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a7e6c95e2ef0a6649c0c904fa28b61b4ac76774df4acdce8fff3a909369c7c2f8d22a4b5&idx=1&mid=2247484765&scene=21&sn=b1b9a9ef6c923abad6cf38364105264c#wechat_redirect
[format_png 2]: /images/20221024/4a623bcb80f740aa9367113f1673f2ea.png