利用神经网络识别12306验证码——（四）数据增广以及训练集、验证集的划分

男娘i 2022-11-14 14:59 250阅读 0赞

经过前面的工作，两部分的数据集都已经准备好了，接下来就将原始的数据集划分为训练集和验证集两部分。在这里，每一类图片的验证集数量都相同，等于总数最少的那一类图片的10%，比如说在80类图片中，数量最少的那类图片为100张，那么每类图片的验证集数量都等于10张。

训练集、验证集划分程序如下，文本部分和图像部分共用相同的划分函数，代码如下。

import os
    import shutil
    import collections
    import math
    
    #创建文件夹的函数，路径参数为列表形式
    def mkdir_if_not_exist(dir_lst):
        try:
            os.mkdir('/'.join(dir_lst[:2]))
        except FileExistsError:
            pass
        
        try:
            os.mkdir('/'.join(dir_lst[:3]))
        except FileExistsError:
            pass
        
        try:
            os.mkdir('/'.join(dir_lst))
        except FileExistsError:
            pass
    
    #训练集、验证集划分函数    
    def reorg_train_valid(data_dir, train_dir, input_dir, valid_ratio, idx_label):
        # 训练集中数量最少一类的物品的样本数
        min_n_train_per_label = (
            collections.Counter(idx_label.values()).most_common()[:-2:-1][0][1])
        # 验证集中每类物品的样本数
        n_valid_per_label = math.floor(min_n_train_per_label * valid_ratio)
        label_count = {
        }
        for train_file in os.listdir(os.path.join(data_dir, train_dir)):
            idx = train_file.split('.')[0]
            label = idx_label[idx]
            mkdir_if_not_exist([data_dir, input_dir, 'Train_valid', label])
            shutil.copy(os.path.join(data_dir, train_dir, train_file),
                        os.path.join(data_dir, input_dir, 'Train_valid', label))
            if label not in label_count or label_count[label] < n_valid_per_label:
                mkdir_if_not_exist([data_dir, input_dir, 'Valid', label])
                shutil.copy(os.path.join(data_dir, train_dir, train_file),
                            os.path.join(data_dir, input_dir, 'Valid', label))
                label_count[label] = label_count.get(label, 0) + 1
            else:
                mkdir_if_not_exist([data_dir, input_dir, 'Train', label])
                shutil.copy(os.path.join(data_dir, train_dir, train_file),
                            os.path.join(data_dir, input_dir, 'Train', label))
                
    def reorg_data(data_dir, label_file, train_dir, input_dir, valid_ratio):
        # 读取训练数据标签
        with open(os.path.join(data_dir, label_file), 'r') as f:
            # 跳过文件头行（栏名称）
            lines = f.readlines()[1:]
            tokens = [l.rstrip().split(',') for l in lines]
            idx_label = dict(((idx, label) for idx, label in tokens))
        reorg_train_valid(data_dir, train_dir, input_dir, valid_ratio, idx_label)

接下来先进行文本图片部分的划分，程序如下

data_dir ='D:/data_text'   #存储根目录，根据自己的情况更改
    #标签文件和原始数据集目录
    label_file, train_dir= 'labels.csv', 'text_captcha'
    #数据划分后存储的根目录以及划分比例
    input_dir, valid_ratio = 'Train_Valid', 0.1
    reorg_data(data_dir, label_file, train_dir, input_dir, valid_ratio)

上面的程序运行完之后，在Train\_Valid文件夹下会产生如下图所示的3个文件夹。![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pheV93b25kZXI_size_16_color_FFFFFF_t_70_pic_center]  
其中Train文件夹中包含的是训练集，Valid文件夹包含的是验证集，而Train\_valid文件夹包含的是所有数据，即训练集和验证集的总和。  
文本数据增广：  
因为我训练的时候文本部分的数据集较少，所以做了一些数据增广操作，放出来供大家参考，看情况是否使用。注意，这部分的数据增广仅针对文本图片！！  
文本的数据增广操作，主要是对文字进行扭曲，包括正弦扭曲、余弦扭曲以及鱼眼扭曲(凸透镜效果)  
文本数据增广程序如下

import cv2
    import math
    import numpy as np
    import hashlib
    import io, os
    from PIL import Image
    import random
    import matplotlib.pyplot as plt
    
    #正余弦扭曲
    def sin_cos_change(img):
        r = random.choice([6, 8, 10])	#正余弦幅度，代表扭曲程度，r越大，扭曲越大，在这里进行小幅度扭曲即可
        row, col, channel = img.shape[0], img.shape[1], img.shape[2]
        sin_img = np.zeros([row,col,channel], dtype=np.uint8)
        cos_img = np.zeros([row, col, channel], dtype=np.uint8)
        def helper(func, new_img):
            for j in range(col):
                temp = r + r * func(j*math.pi*2/col)
                for i in range(int(temp), int(row+temp-2*r)):
                    m = int((i-temp) * row / (row-r))
                    if m >= row:
                        m = row - 1
                    if m < 0:
                        m = 0
                    new_img[i,j,:] = img[m,j,:]
                for k in range(int(temp)):
                    new_img[k,j] = (255,255,255)
                for n in range(int(row+temp-2*r), row):
                    new_img[n,j] = (255,255,255)
            return new_img
        sin_img = helper(math.sin, sin_img)
        cos_img = helper(math.cos, cos_img)
        return sin_img, cos_img
    
    #鱼眼扭曲，效果不太好，在实际的增广操作中，并未使用，也放出来参考参考
    #算法参考链接：https://blog.csdn.net/u010736662/article/details/89388972?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Edefault-5.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Edefault-5.control
    
    def fish_eye_change(img):
        row, col, channel = img.shape[0], img.shape[1], img.shape[2]
        new_img = np.zeros([row,col,channel], dtype=np.uint8)
        center_x, center_y = row/2, col/2
        radius = min(center_x, center_y)	#代表扭曲程度
        for i in range(row):
            for j in range(col):
                dis = ((i-center_x)**2 + (j-center_y)**2)
                new_dis = math.sqrt(dis)
                new_img[i,j,:] = img[i,j,:]
                if dis <= radius**2:
                    new_i = np.int(np.floor(new_dis*(i-center_x)/radius+center_x))
                    new_j = np.int(np.floor(new_dis*(j-center_y)/radius+center_y))
                    new_img[i,j,:] = img[new_i, new_j,:]
        return new_img
    
    #保存扩增的文本图片
    def save_img(path, img):
        img = Image.fromarray(cv2.cvtColor(img, cv2.COLOR_BGR2RGB))
        byter = io.BytesIO()
        img.save(byter, format='JPEG')
        #用图片的哈希值为其命名
        path = os.path.join(path, hashlib.md5(byter.getvalue()).hexdigest() + '.jpg')
        img.save(path)
        print(path, '保存成功！')
    
    #base_path是上面划分数据集所使用的上层目录
    base_path = 'D:\data_text\Train_Valid'
    for each in ['Train', 'Valid']:	#分别对训练集和验证集的文本图片进行扭曲增广
        items = os.listdir(os.path.join(base_path, each))
        for item in items:
            save_path = os.path.join(base_path, each, item)
            imgs = os.listdir(save_path)
            for img in imgs:
                sin_img, cos_img = sin_cos_change(cv2.imread(os.path.join(save_path, img)))
                save_img(save_path, sin_img)
                save_img(save_path, cos_img)

接下来开始处理图形验证码的数据。在第一篇博客中爬那些图片的时候，对每一类图片是分文件夹保存的，为了复用上面划分训练集、验证集的代码，先把每个文件夹下的图片都移动到一个文件夹里，然后把这个文件夹和标签文件labels.csv放在同一个目录下，就可复用上述代码，只需改一下文件路径即可。  
在第三篇博客中，80类图形验证码的文件夹以及labels.csv文件都放在cap\_data文件夹下，。那么，先创建data\_picture文件夹，作为根目录，然后在这个文件夹下再创建一个pic\_captcha文件夹，用以不区分的保存所有图片；同时把labels文件也移动到data\_picture文件夹下。程序如下。

import os
    import shutil
    
    old_path = 'D:/cap_data/'
    new_path = 'D:/data_picture/'
    os.mkdir(new_path)
    os.mkdir(new_path+'pic_captcha')
    
    #将labels.csv复制到data_picture文件夹下
    shutil.copy(old_path+'labels.csv', new_path+'labels.csv')
    
    items = os.listdir(old_path)
    items.remove('labels.csv')
    
    for item in items:
        for each in os.listdir(old_path+item):
            shutil.copy(old_path+item+'/'+each, new_path+'pic_captcha/'+each)

完成数据移动之后，就能利用前面的代码划分训练集和验证集，只需要把data\_dir、train\_dir这两个变量的值改成相应的名字即可。  
至此，就完成了前期所有的准备工作，接下来可以开始正式训练模型了，下一篇博客再见。  
祝各位学习愉快！![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pheV93b25kZXI_size_16_color_FFFFFF_t_70_pic_center 1]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pheV93b25kZXI_size_16_color_FFFFFF_t_70_pic_center]: /images/20221022/5cadf883f3bf411a851a54304cd764c8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2pheV93b25kZXI_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221022/be245baad73a4d7187b09d7c9a9f6fa9.png