华为开源自研AI框架昇思MindSpore应用案例：ResNet50迁移学习

落日映苍穹つ 2024-03-22 11:45 8阅读 0赞

#### 目录 ####

*  一、环境准备
 *   *  1.进入ModelArts官网
     *  2.使用CodeLab体验Notebook实例
 *  二、数据准备
 *   *  下载数据集
 *  三、加载数据集
 *   *  数据集可视化
 *  四、训练模型
 *   *  构建Resnet50网络
     *  模型微调
     *   *  训练和评估
         *  可视化模型预测
     *  固定特征进行训练
     *   *  可视化模型预测

> 在实际应用场景中，由于训练数据集不足，所以很少有人会从头开始训练整个网络。普遍的做法是，在一个非常大的基础数据集上训练得到一个预训练模型，然后使用该模型来初始化网络的权重参数或作为固定特征提取器应用于特定的任务中。本章将使用迁移学习的方法对ImageNet数据集中的狼和狗图像进行分类。

如果你对MindSpore感兴趣，可以关注[**昇思MindSpore社区**][MindSpore]

![在这里插入图片描述][a9571b75523b4cbca146948dbadf8715.png]

![在这里插入图片描述][87d584cd0a014854af1926a3741ac436.png]

## 一、环境准备 ##

### 1.进入ModelArts官网 ###

云平台帮助用户快速创建和部署模型，管理全周期AI工作流，选择下面的云平台以开始使用昇思MindSpore，[获取安装命令][Link 1]，安装MindSpore2.0.0-alpha版本，可以在昇思教程中进入[**ModelArts官网**][ModelArts]

![在这里插入图片描述][661e20e619f840aba899fac2091e96bf.png]

选择下方CodeLab立即体验

![在这里插入图片描述][547900ad31bf4f4386132554fe26dfb9.png]

等待环境搭建完成

![在这里插入图片描述][1466f73e44fa4fe69bd38b0b30661e22.png]

### 2.使用CodeLab体验Notebook实例 ###

下载[**NoteBook样例代码**][NoteBook]，[**ResNet50迁移学习**][ResNet50] ，`.ipynb`为样例代码

![在这里插入图片描述][8d97e9e382914789a814eaec1b9f5853.png]

选择ModelArts Upload Files上传`.ipynb`文件

![在这里插入图片描述][e61bd133ba3542f09c446844d843b8fb.png]

![在这里插入图片描述][8342f2f96ccb42cdb7d8d89d0f3871d5.png]

![在这里插入图片描述][072ecab6aeb44287a0dcbd24e65bfedb.png]

选择Kernel环境

![在这里插入图片描述][1958046329764568b9c73ae3263fb5b6.png]

切换至GPU环境，切换成第一个限时免费

![在这里插入图片描述][02ba420204df48f3afc20392b069f944.png]

进入[**昇思MindSpore官网**][MindSpore 1]，点击上方的安装

![在这里插入图片描述][2dec09846d164105b79d514aa0deed82.png]

获取安装命令

![在这里插入图片描述][084d07e792b64e8e857146e81183ca42.png]

回到Notebook中，在第一块代码前加入命令  
![在这里插入图片描述][d1b5e7f5355b410599f32ed6a59d9000.png]

conda update -n base -c defaults conda

![在这里插入图片描述][805039f1f2df413daf3a797d6ef58b01.png]

安装MindSpore 2.0 GPU版本

conda install mindspore=2.0.0a0 -c mindspore -c conda-forge

![在这里插入图片描述][95a53f7dde714310a336b134e5a51f1d.png]

安装mindvision

pip install mindvision

![在这里插入图片描述][7eec4a2d97634beeae03da93eabf8eb5.png]

## 二、数据准备 ##

### 下载数据集 ###

下载案例所用到的[狗与狼分类数据集][Link 2]，数据集中的图像来自于ImageNet，每个分类有大约120张训练图像与30张验证图像。使用download接口下载数据集，并将下载后的数据集自动解压到当前目录下。

![在这里插入图片描述][0f26ad2949cf44fcace6efe7df848e8d.png]

![在这里插入图片描述][7a01166f2e714c6599f6c3e01ae69fb4.png]

安装下载download

pip install download

![在这里插入图片描述][119027ad29034ed9be82b75092515c6c.png]

from download import download
    
    dataset_url = "https://mindspore-website.obs.cn-north-4.myhuaweicloud.com/notebook/datasets/intermediate/Canidae_data.zip"
    
    download(dataset_url, "./datasets-Canidae", kind="zip")

数据集的目录结构如下：

datasets-Canidae/data/
    └── Canidae
        ├── train
        │   ├── dogs
        │   └── wolves
        └── val
            ├── dogs
            └── wolves

![在这里插入图片描述][283058a5205244d595e9f1d078702f0c.png]

## 三、加载数据集 ##

狼狗数据集提取自ImageNet分类数据集，使用mindspore.dataset.ImageFolderDataset接口来加载数据集，并进行相关图像增强操作。

首先执行过程定义一些输入：

![在这里插入图片描述][8f20be199eff44d6879a317bbc4d0586.png]  
![在这里插入图片描述][1c9c91efe7304bbc8938747ebaea72e0.png]

### 数据集可视化 ###

从mindspore.dataset.ImageFolderDataset接口中加载的训练数据集返回值为字典，用户可通过 create\_dict\_iterator 接口创建数据迭代器，使用 next 迭代访问数据集。本章中 batch\_size 设为18，所以使用 next 一次可获取18个图像及标签数据。

![在这里插入图片描述][751c3f05eb0444acaf8119360c876a92.png]  
![在这里插入图片描述][a82268cee1fb4875a514cb559d1b46cc.png]

## 四、训练模型 ##

本章使用ResNet50模型进行训练。搭建好模型框架后，通过将pretrained参数设置为True来下载[ResNet50的预训练模型][ResNet50 1]并将权重参数加载到网络中。

### 构建Resnet50网络 ###

![在这里插入图片描述][f48ea06cbe3a4fb8bc46332c3c02d7cf.png]  
![在这里插入图片描述][805d06be612a4cf58fe8f318bc8e1fc9.png]  
![在这里插入图片描述][564884a881cd4ae18f85d5796c7dc22b.png]  
![在这里插入图片描述][a9e689af178c459cbea4f7f081ead160.png]  
![在这里插入图片描述][9fd58ecfca0a4d969d39f1deac832e68.png]

### 模型微调 ###

由于ResNet50中的预训练模型是针对ImageNet数据集中的1000个类别进行分类的，在本章只对狼和狗两个类别进行分类，所以需要重置预训练模型中的分类器，然后重新微调网络。

![在这里插入图片描述][75122561f33143a4b313f4cfd8026a8d.png]  
![在这里插入图片描述][9d9c86dde10845b6a706412345cb1a8d.png]

#### 训练和评估 ####

训练并评估网络，且在训练完成后，保存评估精度最高的ckpt文件(resnet50-best.ckpt)到当前路径的/BestCheckpoint下，保存路径和ckpt文件名可自行调整。

![在这里插入图片描述][92d544e9f4fb4ee5987fdcb17bbf67bf.png]

![在这里插入图片描述][b960b6a0b98c4d8789945a1e2eae0834.png]

![在这里插入图片描述][58caa65a541645e2801c008752f21225.png]

#### 可视化模型预测 ####

定义 visualize\_mode 函数，可视化模型预测。  
![在这里插入图片描述][14346dd377f94aad984ba19f0edf6a50.png]  
![在这里插入图片描述][4ea170d8bd08436b91790799b77269a6.png]

### 固定特征进行训练 ###

使用固定特征进行训练的时候，需要冻结除最后一层之外的所有网络层。通过设置 requires\_grad == False 冻结参数，以便不在反向传播中计算梯度。  
![在这里插入图片描述][05727e84134c43998684330acbe38e18.png]  
![在这里插入图片描述][dcee8cfd348d44f7899d656a35cbe377.png]  
![在这里插入图片描述][40987ace75884f81b88ba6084c5ee237.png]

#### 可视化模型预测 ####

使用固定特征得到的best.ckpt文件对对验证集的狼和狗图像数据进行预测。若预测字体为蓝色即为预测正确，若预测字体为红色则预测错误。  
![在这里插入图片描述][d2cc17627d314f79a632c8a635cb86e6.png]

[MindSpore]: https://bbs.csdn.net/forums/MindSpore_Official
[a9571b75523b4cbca146948dbadf8715.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/e54b326c2a8343138c12da9d2a43d880.png
[87d584cd0a014854af1926a3741ac436.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/884a8b59fdff40e693a12f3282216a79.png
[Link 1]: https://mindspore.cn/install
[ModelArts]: https://console.huaweicloud.com/modelarts/?region=cn-north-4#/dashboard
[661e20e619f840aba899fac2091e96bf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/735b07be15524123a04db78e80145271.png
[547900ad31bf4f4386132554fe26dfb9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/81dd6f28c3f048aa953dbe7ae6a0ef7a.png
[1466f73e44fa4fe69bd38b0b30661e22.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/977d6799f8e64b9783c4f9dfcd078b88.png
[NoteBook]: https://obs.dualstack.cn-north-4.myhuaweicloud.com/mindspore-website/notebook/r2.0/tutorials/application/zh_cn/cv/mindspore_transfer_learning.ipynb
[ResNet50]: https://mindspore.cn/tutorials/application/zh-CN/r2.0/cv/transfer_learning.html
[8d97e9e382914789a814eaec1b9f5853.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/8d90b9bc12ed41a6a49f5942d33349f5.png
[e61bd133ba3542f09c446844d843b8fb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/b784085abd1345aeae907e05d8335f30.png
[8342f2f96ccb42cdb7d8d89d0f3871d5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/02bf80fad5014e3dab141b7377e51bc7.png
[072ecab6aeb44287a0dcbd24e65bfedb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/d7c8c9f611034585b8f69eceaccecbd0.png
[1958046329764568b9c73ae3263fb5b6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/5a0978c020984426a8d90fbcd55672a1.png
[02ba420204df48f3afc20392b069f944.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/520a332870204031b4259da56c274c1a.png
[MindSpore 1]: https://www.mindspore.cn/
[2dec09846d164105b79d514aa0deed82.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/dd707c746e34461a80362c4445289e12.png
[084d07e792b64e8e857146e81183ca42.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/944ae7439c864f8282ef001b406fb129.png
[d1b5e7f5355b410599f32ed6a59d9000.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/a1993c72dd06418f931ff0f0521ff257.png
[805039f1f2df413daf3a797d6ef58b01.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/ba60677bfb1c4777a09eecd616348f55.png
[95a53f7dde714310a336b134e5a51f1d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/dab0eae86f6144d1b12e8278fc1dba45.png
[7eec4a2d97634beeae03da93eabf8eb5.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/7b7d26efe98d4530ae98aba10aa0e15c.png
[Link 2]: https://mindspore-website.obs.cn-north-4.myhuaweicloud.com/notebook/datasets/intermediate/Canidae_data.zip
[0f26ad2949cf44fcace6efe7df848e8d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/ad851f1c2dc44ab490a0d00a11b52e76.png
[7a01166f2e714c6599f6c3e01ae69fb4.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/e6626896920f465a828249621f0e2ed3.png
[119027ad29034ed9be82b75092515c6c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/87f29a693d274652aa4f75659fcbd7bb.png
[283058a5205244d595e9f1d078702f0c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/09ca07d197ca4fa7a6b539f858e20644.png
[8f20be199eff44d6879a317bbc4d0586.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/980871c70f994a9b94f005858b97e2f8.png
[1c9c91efe7304bbc8938747ebaea72e0.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/ee5a94a8efce4d9592b79d1968cae637.png
[751c3f05eb0444acaf8119360c876a92.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/37ae8b7e9423499d8fc63189576c2abc.png
[a82268cee1fb4875a514cb559d1b46cc.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/5a8c6b82967e470597cfa16b9cb5c4eb.png
[ResNet50 1]: https://obs.dualstack.cn-north-4.myhuaweicloud.com/mindspore-website/notebook/models/application/resnet50_224_new.ckpt
[f48ea06cbe3a4fb8bc46332c3c02d7cf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/cabc011f969e4b18925b9446fd781b5c.png
[805d06be612a4cf58fe8f318bc8e1fc9.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/e6dbc0e05d794978b9752c0ea185b884.png
[564884a881cd4ae18f85d5796c7dc22b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/3d2d4233c5d74dc5927be232e1ac37d3.png
[a9e689af178c459cbea4f7f081ead160.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/8dd409f5a08d4792a04e3a5ba36ebb0e.png
[9fd58ecfca0a4d969d39f1deac832e68.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/148fc39fde8144f8802a0bbd08607187.png
[75122561f33143a4b313f4cfd8026a8d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/c3b5660c15f847319a4db5c82a095521.png
[9d9c86dde10845b6a706412345cb1a8d.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/b866ff85c7744b4f861b5b743bd036c4.png
[92d544e9f4fb4ee5987fdcb17bbf67bf.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/abbe46936f794f9393fc12ac8bd2ae56.png
[b960b6a0b98c4d8789945a1e2eae0834.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/1b22dd3a699443818ebda24be586ecfd.png
[58caa65a541645e2801c008752f21225.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/35e92030bfa243bda14cac0eac244e60.png
[14346dd377f94aad984ba19f0edf6a50.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/75ea93c1eca74a99beec2733565c0298.png
[4ea170d8bd08436b91790799b77269a6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/43c61db132764a01adc8b30b7ffaca12.png
[05727e84134c43998684330acbe38e18.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/b4bf56a75cdf4247a228204e5eede7ba.png
[dcee8cfd348d44f7899d656a35cbe377.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/2f617f03c97e4a61a32c54a40ab29b50.png
[40987ace75884f81b88ba6084c5ee237.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/0fef3e34dd90462cbfc8754d8b77fb87.png
[d2cc17627d314f79a632c8a635cb86e6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/22/a2b24a9a3e1044e88674aefe922747e1.png