PyTorch实现18+ SOTA GAN

本是古典何须时尚 2022-11-05 01:56 210阅读 0赞

来源：公众号 机器之心 授权

> GAN 自从被提出后，便迅速受到广泛关注。我们可以将 GAN 分为两类，一类是无条件下的生成；另一类是基于条件信息的生成。近日，来自韩国浦项科技大学的硕士生在 GitHub 上开源了一个项目，提供了条件 / 无条件图像生成的代表性生成对抗网络（GAN）的实现。

![f9082bcb921840f980ae437d2fdcac18.png][]

近日，机器之心在 GitHub 上看到了一个非常有意义的项目 PyTorch-StudioGAN，它是一个 PyTorch 库，提供了条件 / 无条件图像生成的代表性生成对抗网络（GAN）的实现。据主页介绍，该项目旨在提供一个统一的现代 GAN 平台，这样机器学习领域的研究者可以快速地比较和分析新思路和新方法等。

该项目的作者为韩国浦项科技大学的硕士生，他的研究兴趣主要包括深度学习、机器学习和计算机视觉。

![22b544c0fd57ad770f652dad93afbf36.png][]

项目地址：https://github.com/POSTECH-CVLab/PyTorch-StudioGAN

具体而言，该项目具有以下几个显著特征：

*  提供了大量 PyTorch 框架的 GAN 实现；
 *  基于 CIFAR 10、Tiny ImageNet 和 ImageNet 数据集的 GAN 基准；
 *  相较原始实现的更好的性能和更低的内存消耗；
 *  提供完全最新 PyTorch 环境的预训练模型；
 *  支持多 GPU（DP、DDP 和多节点 DDP）、混合精度、同步批归一化、LARS、Tensorboard 可视化和其他分析方法。

对于这个 PyTorch GAN 库，有网友表示：「看上去很不错！如果可以提供 top-k 等现代训练实践以及各种增强方法就更棒了。」对此，项目作者称其会在 NeurIPS 论文提交截止日期之后，添加一些改进的方法，如 Sinha 等人的 Tok-K 训练以及 Langevin 采样和 SimCLR 增强。

![d0b85048df048f74ce77e2a8017ce390.png][]

此外，有网友询问是否可以将该项目用于图像之外的其他领域。作者表示可以，即使无法使用一些稳定器（如 diffaug、ada 等），依然可以通过调整 dataLoader 来训练自己的模型。

![a54d691bb5035bd18a9621699217f5b9.png][]

**18+ SOTA GAN 实现**

如下图所示，项目作者提供了 18 + 个 SOTA GAN 的实现，包括 DCGAN、LSGAN、GGAN、WGAN-WC、WGAN-GP、WGAN-DRA、ACGAN、ProjGAN、SNGAN、SAGAN、BigGAN、BigGAN-Deep、CRGAN、ICRGAN、LOGAN、DiffAugGAN、ADAGAN、ContraGAN 和 FreezeD。

![94f3b0a15c2d441c99401362b4dad29d.png][]

*cBN：条件批归一化；AC：辅助分类器；PD：Projection 判别器；CL：对比学习。*

其中，需要注意以下几点：

*  G/D\_type 表示将标签信息注入生成器或判别式的方式；
 *  EMA 表示生成器中应用更新后的指数移动平均线；
 *  Tiny ImageNet 数据集上的实验使用的是 ResNet 架构而不是 CNN。

下图中 StyleGAN2 为即将实现的 GAN 网络，其中 AdaIN 表示自适应实例归一化（Adaptive Instance Normalization）。

![b0ee0c06913e0b88df869ae15bc864a1.png][]

**环境要求**

*  Anaconda
 *  Python >= 3.6
 *  6.0.0 <= Pillow <= 7.0.0
 *  scipy == 1.1.0
 *  sklearn
 *  seaborn
 *  h5py
 *  tqdm
 *  torch >= 1.6.0 
 *  torchvision >= 0.7.0
 *  tensorboard
 *  5.4.0 <= gcc <= 7.4.0
 *  torchlars

用户可以采用以下方法安装推荐的环境：

conda env create -f environment.yml -n studiogan

在 docker 中还可以采用以下方式：

docker pull mgkang/studiogan:latest

以下是创建名字为「studioGAN」容器的命令，同样也可以使用端口号为 6006 来连接 tensoreboard。

docker run -it --gpus all --shm-size 128g -p 6006:6006 --name studioGAN -v /home/USER:/root/code --workdir /root/code mgkang/studiogan:latest /bin/bash

**使用方法**

使用 GPU 0 的情况下，在 CONFIG\_PATH 中对于模型的训练「-t」和评估「-e」进行了定义：

CUDA_VISIBLE_DEVICES=0 python3 src/main.py -t -e -c CONFIG_PATH

在使用 GPU (0, 1, 2, 3) 和 DataParallel 情况下，在 CONFIG\_PATH 中对于模型的训练「-t」和评估「-e」进行了定义：

CUDA_VISIBLE_DEVICES=0,1,2,3 python3 src/main.py -t -e -c CONFIG_PATH

在 python3 src/main.py 程序中查看可用选项，通过 Tensorboard 可以监控 IS、FID、F\_beta、Authenticity Accuracies 以及最大奇异值：

~ PyTorch-StudioGAN/logs/RUN_NAME>>> tensorboard --logdir=./ --port PORT

**可视化以及分析生成图像**

StudioGAN 支持**图像可视化、k 最近邻分析、线性差值以及频率分析**。所有的结果保存在「./figures/RUN\_NAME/\*.png」中。

图像可视化的代码和示例如下：

CUDA_VISIBLE_DEVICES=0,...,N python3 src/main.py -iv -std_stat --standing_step STANDING_STEP -c CONFIG_PATH --checkpoint_folder CHECKPOINT_FOLDER --log_output_path LOG_OUTPUT_PATH

![0eef7ebf4cbfab7381c7d63e9cbbaecd.png][]

k 最近邻分析，这里固定 K=7，第一列中是生成的图像：

CUDA_VISIBLE_DEVICES=0,...,N python3 src/main.py -knn -std_stat --standing_step STANDING_STEP -c CONFIG_PATH --checkpoint_folder CHECKPOINT_FOLDER --log_output_path LOG_OUTPUT_PATH

![61877229e40d7b4433a3d7665c57631f.png][]

线性插值（仅适用于有条件的 Big ResNet 模型 ）的代码和示例如下：

CUDA_VISIBLE_DEVICES=0,...,N python3 src/main.py -itp -std_stat --standing_step STANDING_STEP -c CONFIG_PATH --checkpoint_folder CHECKPOINT_FOLDER --log_output_path LOG_OUTPUT_PATH

![59990f86efcf6e48292933ba79fd5624.png][]

*参考链接：https://www.reddit.com/r/MachineLearning/comments/lu9gen/p\_pytorch\_gan\_library\_that\_provides*

**猜您喜欢：**

**[超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

[**附下载 | 《Python进阶》中文版**][_ _Python]

[**附下载 | 经典《Think Python》中文版**][_ _Think Python]

[**附下载 | 《Pytorch模型训练实用教程》**][_ _Pytorch]

[**附下载 | 最新2020李沐《动手学深度学习》**][_ _2020]

**[附下载 | 《可解释的机器学习》中文版][Link 1]**

[**附下载 |《TensorFlow 2.0 深度学习算法实战》**][_TensorFlow 2.0]

**[附下载 | 超100篇！CVPR 2020最全GAN论文梳理汇总！][100_CVPR 2020_GAN]**

**[附下载 |《计算机视觉中的数学方法》分享][Link 2]**

![e1680f1f7ab59f5ff9b51591c3445f09.png][]

[f9082bcb921840f980ae437d2fdcac18.png]: /images/20221023/21c9308719c34e47a02cdb4dd66a3411.png
[22b544c0fd57ad770f652dad93afbf36.png]: /images/20221023/26fc8f6f2b1141d1a4f5c3b7bd2b38ef.png
[d0b85048df048f74ce77e2a8017ce390.png]: /images/20221023/99ea0c854a294c9197d2a8db2589f87e.png
[a54d691bb5035bd18a9621699217f5b9.png]: /images/20221023/3fb95df54caa4e4cb59eff6e92c886a2.png
[94f3b0a15c2d441c99401362b4dad29d.png]: /images/20221023/83d0fb02bf8749d5a2a36ff29f9299a9.png
[b0ee0c06913e0b88df869ae15bc864a1.png]: /images/20221023/da4203a1c55a4567b130e0bd6c10424e.png
[0eef7ebf4cbfab7381c7d63e9cbbaecd.png]: /images/20221023/e384e92a6d3546fb97a57790ec884fd1.png
[61877229e40d7b4433a3d7665c57631f.png]: /images/20221023/a75b56d8bf7343869e5ebfbe3bd47bac.png
[59990f86efcf6e48292933ba79fd5624.png]: /images/20221023/de808c5faf18427fb207c7caabb173e3.png
[100_CVPR 2020_GAN]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a94cc95e205ae880cb9518cb16a54c0abde69e5a8654f7fedf70a0cc990775265bf28a1c&idx=1&mid=2247486455&scene=21&sn=94156f53845cdf07e859e343862be745#wechat_redirect
[_ _Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29abb6c95e22a04d1eb019f964c8ae97b2f3af98c22f730f5d5ed2aea9fdb320b00c688967&idx=2&mid=2247485709&scene=21&sn=55a51c98ab48f393ba305c082ba0e4fe#wechat_redirect
[_ _Think Python]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a418c95e2d0e9a3de46e0e4d1b8d4947154d8639418a511a3091300aa31699932046556e&idx=2&mid=2247485091&scene=21&sn=f569d5d70c2e6c9cc567fbc5147787a4#wechat_redirect
[_ _Pytorch]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa78c95e236e380c9fd2ae79917d7451ccdd4803c5e6047a16f921d1b61d18efc79ada7c&idx=2&mid=2247485635&scene=21&sn=90608bce32fe353cf3c64b39e3406bc3#wechat_redirect
[_ _2020]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4a4c95e2db2aab16bdcefa78795bbb7efbc70b533bb197d73f617558f2f8a523120c6e3&idx=2&mid=2247484959&scene=21&sn=563999cc8d48498beed00270844ceec4#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a4bac95e2dac758c4aac10a3aac49eb062bc0829d4ef2ebc8e6d5069d246385c5084a2b4&idx=1&mid=2247484929&scene=21&sn=523220858287ed3e6105919703c8e833#wechat_redirect
[_TensorFlow 2.0]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29a5b0c95e2ca6599d4a91d5d40900566b7525de3dd85259e7a6c173aa26aa7ea3641d1aaf&idx=2&mid=2247485195&scene=21&sn=e3387067db29d1759755c6c2ea96c870#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU5MTgzNzE0MA%3D%3D&chksm=fe29aa8fc95e23993e057fb0dbe09f2810ea07184a439c173f404a7ab657cadcde3d24efa52a&idx=2&mid=2247485492&scene=21&sn=c4fb135de02cd52f06bc61b0e79476e4#wechat_redirect
[e1680f1f7ab59f5ff9b51591c3445f09.png]: /images/20221023/48374075e6d148a9aebfc09abcf5e334.png