Python基于深度学习实现的fashionMNIST分类

心已赠人 2024-02-23 07:54 5阅读 0赞

目录  
kaggle 排名 2  
数据分析与处理 3  
1、图片分析 3  
2、数据划分 3  
数据增强 4  
模型选择 4  
1、3 层卷积简单模型 4  
2、VGG16 修改 4  
3、DPN 修改 5  
4、resnet 18 修改 5  
5、resnet 50 修改 6  
6、Google Net 6  
参数调整 6  
1、学习率与优化器 6  
2、数据批量大小 batch size 7  
3、旋转角度 7  
4、模型参数 7  
训练策略 8  
1、控制随机种子 8  
2、预训练 8  
3、Bagging 投票 8  
总结 9  
参考资料 9  
万张训练数据集分出 10%作为 validation set.

数据增强  
由上一部分我们可以看出，衣服图片有被随机旋转，最多大约有 30 度的倾斜角度。图片都是直立的，基本左右对称，但鞋子有左朝向的也有右朝向的。衣物都在图片正中央，但基本都没有占满整个图片。  
基于上面所观察到的特征，我们对训练集图片进行如下的数据增强：  
在图片四周填补 2 个像素的边缘，并从填补后的图片中随机取出 28\*28 大小的子图片。  
对图片进行 0 到 15 度的随机旋转  
以 5%的概率对图片进行水平翻转  
将图片像素值归一化到 0~1 的范围  
使用数据集总体的平均值（0.2926）和方差（0.3343）对像素值进行归一化。对 validation 集我们不引入随机性，因此只是进行像素值的归一化。

模型选择  
1、3 层卷积简单模型  
首先使用了有 3 层卷积的简单模型，卷积之间用 batchnorm 层和 relu 层连接，提高模型的泛化能力。  
这种简单模型在 validation 集最高能达到 90.9%的准确率，在 kaggle 公榜上能达到 87% 的准确率。

2、VGG16 修改  
VGG 模型常被用于各种分类任务，曾获得 2014 年 ILSVRC 竞赛的第二名，下面是 VGG 模型的参数配置(Simonyan & Zisserman, 2014)。  
本次任务我使用了 VGG16 的修改版（表格中的 C），首先将 RGB 3 通道的输入改为 1 通道灰度，再将最后 3 个卷积层和 maxpool 池化层去掉，最后将全连接层的维度改为 256-  
512-10

import torch
    import numpy as np
    import torchvision.transforms as transforms
    import csv
    import cv2
    
    PIC_SIZE = 28
    
    def convert2pic(path, out_path, info_file):
        pics = torch.Tensor(np.load(path))
    
        with open(info_file, 'r') as fin:
            f_csv = csv.reader(fin)
            for i, line in enumerate(f_csv):
                if i==0: #列首
                    continue
                pic = pics[int(line[0])]
                label = int((line[1]))
    
                image = torch.reshape(pic, (PIC_SIZE, PIC_SIZE))
                med_filt_img = cv2.medianBlur(np.array(image), 3)
    
                #image_PIL = transforms.ToPILImage()(image)
                image_med_PIL = transforms.ToPILImage()(torch.Tensor(med_filt_img))
                #image_PIL.show()
                #image_med_PIL.show()
                image_med_PIL.save(out_path + '/%d_%d.jpg' % (label, i))
    
    def convert2pic_noLabel(path, out_path):
        pics = torch.Tensor(np.load(path))
    
        for i in range(pics.shape[0]):
            pic = pics[i]
    
            image = torch.reshape(pic, (PIC_SIZE, PIC_SIZE))
            med_filt_img = cv2.medianBlur(np.array(image), 3)
            #image_PIL = transforms.ToPILImage()(image)
            image_med_PIL = transforms.ToPILImage()(torch.Tensor(med_filt_img))
            image_med_PIL.save(out_path + '/%d.jpg' % (i))
    
    if __name__ == '__main__':
        #convert2pic('train.npy', 'train_med_image', 'train.csv')
        convert2pic_noLabel('test.npy', 'test_med_image')

![在这里插入图片描述][4cb3ad8c88064853b410ac7513e8d453.png_pic_center]  
![在这里插入图片描述][d75eea6804874bee9bfa57f7e6d2be7d.png_pic_center]  
![在这里插入图片描述][6053eb3e55cb4a87b83d0c4d9be960fe.png_pic_center]  
![在这里插入图片描述][04444a4a46b64fe691edffc54ab0baa8.png_pic_center]  
![在这里插入图片描述][f9ddb6ad338948cdb928602d7531eebd.png_pic_center]  
![在这里插入图片描述][ed4e42260b0b4e5ab0a918513ab54008.png_pic_center]  
![在这里插入图片描述][8851c2b844f24745a7e025fde47fc4a3.png_pic_center]

[4cb3ad8c88064853b410ac7513e8d453.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/06a5a097ef234c8aadf7fb7996cd3ec0.png
[d75eea6804874bee9bfa57f7e6d2be7d.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/ec74d7ef7ba14a1682820c46845d55ff.png
[6053eb3e55cb4a87b83d0c4d9be960fe.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/9474a413fd7f42ba88c2aaa890360821.png
[04444a4a46b64fe691edffc54ab0baa8.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/96cd693c40074342972b98bebc0de7e2.png
[f9ddb6ad338948cdb928602d7531eebd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/25197c9a139d415bbf019b7646f56dcc.png
[ed4e42260b0b4e5ab0a918513ab54008.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/793cd6bfaf4340c4bc4e2109d6146cd9.png
[8851c2b844f24745a7e025fde47fc4a3.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/23/9faa05897882428288986cbc4242372d.png