基于TensorFlow的卷积神经网络实现手写数据识别

r囧r小猫 2022-01-22 23:57 347阅读 0赞

**目录**

一、前言

二、卷积神经网络

三、LeNet

1、结构模型

三、手写体数字识别实现

1、手写体数字数据选取

2、训练数据

3、测试数据

4、识别结果

5、结果分析

参考文章

--------------------

# 一、前言 #

卷积神经网络（Convolutional Neural Networks, CNN）是一类包含[卷积][Link 1]计算且具有深度结构的[前馈神经网络][Link 2]（Feedforward Neural Networks），是[深度学习][Link 3]（deep learning）的代表算法之一。卷积神经网络是一种多层神经网络，擅长处理图像特别是大图像的相关机器学习问题。卷积网络能够通过一系列方法，成功将数据量庞大的图像识别问题不断降维，最终使其能够被训练。相较于其他神经网络结构，卷积神经网络需要的参数相对较少，这也是卷积神经网络能够被广泛应用的原因。本文将介绍一种经典的卷积神经网络的网络结构—**LeNet模型**并以此实现**手写数据集的识别**。

# 二、卷积神经网络 #

我们先比较一下BP神经网络和卷积神经网络。**BP神经网络**是采用[全连接][Link 4]，权值太多，需要很多样本去训练，计算困难。这引导我们可以减少权值的尝试，采用局部连接的方法改进算法的效率和复杂度。而**卷积神经网络**可以利用[局部感知野][Link 5]，即认为人对外界的认知是从局部到全局的，而图像的空间联系也是局部的像素联系较为紧密，而距离较远的像素相关性则较弱。因此，每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，然后在更高层将局部的信息综合起来就得到了全局的信息。而且卷积神经网络可以通过[权值共享][Link 6]降低参数数目，减轻计算量。（ps：在每个重点词汇都有相应的链接，如果有疑问可以直接点击查看）

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70][]

如上图，如果采用BP神经网络方式对一张图片进行分类，那就要将图片上的每个像素都连接到隐藏层节点上，则对于一张1000x1000像素的图片，如果我们有1M隐藏层单元，那么一共有10^12个参数，这显然是不能接受的。而对于卷积神经网络，我们可以假设最底层特征都是局部性的，图像上不同小片段，以及不同图像上的小片段的特征是类似的。那我们就只需用10x10这样大小的过滤器就能表示边缘等底层特征，并且可以用同样的一组分类器（窗口重叠采样）来描述各种各样不同的图像,避免了边缘效应。即如下图所示：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 1][]

卷积神经网络以其局部权值共享的特殊结构在语音识别和图像处理方面有着独特的优越性，其布局更接近于实际的生物神经网络，权值共享降低了网络的复杂性，特别是多维输入向量的图像可以直接输入网络这一特点避免了特征提取和分类过程中数据重建的复杂度。

# 三、LeNet #

LeNet是一个最典型的卷积神经网络，由卷积层、池化层、全连接层组成。其中卷积层与池化层配合，组成多个卷积组，逐层提取特征，最终通过若干个全连接层完成分类，其结构如下图。

## 1、结构模型 ##

![Center][]

我们来具体看下这个结构

首先是**INPUT层-输入层**

这里输入的是尺寸统一归一化为32\*32的手写体数字图像。

> 在每个卷积层，数据都是以三维形式存在的。你可以把它看成许多个二维图片叠在一起，其中每一个称为一个feature map。每个层都含有多个feature map，每个feature map通过一种卷积滤波器提取输入的一种特征，然后每个feature map有多个神经元。

**第一层 C1层-卷积层**

通过卷积运算，可以使原信号特征增强，并且降低噪音。此层形成6个feature map，每个feature map使用的一个5x5的卷积核（卷积的输入区域大小是5x5，每个feature map内参数共享，即每个feature map内只使用一个共同卷积核，卷积核有5x5个连接参数加上1个偏置共26个参数。卷积区域每次滑动一个像素，这样卷积层形成的每个特征图谱大小是(32-5)/1+1=28x28。C1层共有26x6=156个训练参数，有(5x5+1)x28x28x6=122304个连接。有122304个连接，但是我们只需要学习156个参数，主要是通过权值共享实现的。卷积核如下图所示：

![20181124130023841.gif][]

**第二层 S2层-池化层（下采样层）**

此层为pooling层，为减少数据处理量同时保留有用信息，利用图像局部相关性的原理，对图像进行子抽样，即下采样。C1层的6个28x28的feature map分别进行以2x2为单位的下抽样（池化），得到了S2即6个14x14的feature map（28/2=14）。S2这个pooling层是对C1中的2x2区域内的像素求和乘以一个权值系数再加上一个偏置，然后将这个结果再做一次映射。同时有5x14x14x6=5880个连接。

**第三层 C3层-卷积层**  
C3层是一个卷积层，卷积核与C1相同，不同的是C3的每个节点与S2中的多个图相连。如下左图所示，第一个红框表示C3的前6个feature map与S2层相连的3个feature map相连接，第二个红框表示后面6个feature map与S2层相连的4个feature map相连接，第三个红框则说明后面3个feature map与S2层部分不相连的4个feature map相连接，最后一个与S2层的所有feature map相连。C3层有16个10x10（14-5+1）的图，每个图与S2层的连接的方式如下面右图所示。C3与S2中前3个图相连的卷积结构见下图.这种不对称的组合连接的方式有利于提取多种组合特征。该层有(5x5x3+1)x6 + (5x5x4 + 1) x 3 + (5x5x4 +1)x6 + (5x5x6+1)x1 = 1516个训练参数，共有1516x10x10=151600个连接。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 2][]            ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 3][]

**第四层 S4层-池化层**

S4是pooling层，窗口大小仍然是2x2，共计16个feature map，C3层的16个10x10的图分别进行以2x2为单位的池化得到16个5x5的特征图。有5x5x5x16=2000个连接。连接的方式与S2层类似。

**第五层 C5层-卷积层**

C5层是一个卷积层。由于S4层的16个图的大小为5x5，与卷积核的大小相同，所以卷积后形成的图的大小为1x1。这里形成120个卷积结果。每个都与上一层的16个图相连。所以共有(5x5x16+1)x120 = 48120个参数，同样有48120个连接。网络结构如下：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 4][]

**第六层 F6层-全连接层**

F6层是全连接层。F6层有84个节点，对应于一个7x12的比特图，-1表示白色，1表示黑色，这样每个符号的比特图的黑白色就对应于一个ASCII编码。该层的训练参数和连接数是(120 + 1)x84=10164。连接方式如下：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 5][]

最后是**Output层-全连接层**

Output层也是全连接层，共有10个节点，分别代表数字0到9，且如果节点i的值为0，则网络识别的结果是数字i。采用的是径向基函数（RBF）的网络连接方式。假设x是上一层的输入，y是RBF的输出，则RBF输出的计算方式是：![y\_\{i\}=\\sum \_\{j\}(x\_\{j\}-w\_\{ij\})^\{2\}][y_i_sum _j_x_j_-w_ij_2]

上式![w\_\{ij\}][w_ij]的值由i的比特图编码确定，i从0到9，j取值从0到7\*12-1。RBF输出的值越接近于0，则越接近于i，即越接近于i的ASCII编码图，表示当前网络输入的识别结果是字符i。该层有84x10=840个参数和连接。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 6][]

好了，原理就到此告一段落

我们开始进行手写体数字识别吧

# 三、手写体数字识别实现 #

## 1、手写体数字数据选取 ##

实验训练数据选取的是Mnist手写体数据集

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 7][]

上图所示为数字“7”的各种手写体版本，例以下几种都与原本的“7”有较大差别，特征与“7”也不明显。还有存在缺失只含部分、数字倒置、镜像、者旋转或者添加干扰的手写体数据。所以训练数据集一定要大、而且多，要有不同形态。

## 2、训练数据 ##

代码实现：

#coding:utf8
    import os 
    import cv2 
    import numpy as np
    import tensorflow as tf
    from tensorflow.examples.tutorials.mnist import input_data
    
    sess = tf.InteractiveSession()
    
    
    def getTrain():
        train=[[], []]  # 指定训练集的格式，一维为输入数据，一维为其标签
        # 读取所有训练图像，作为训练集
        train_root = "mnist_train"
        labels = os.listdir(train_root)
        for label in labels:
            imgpaths = os.listdir(os.path.join(train_root, label))
            for imgname in imgpaths:
                img = cv2.imread(os.path.join(train_root, label, imgname),0)
                array = np.array(img).flatten() # 将二维图像平铺为一维图像
                array=MaxMinNormalization(array)
                train[0].append(array)
                label_ = [0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
                label_[int(label)] = 1
                train[1].append(label_)
        train = shuff(train)  # 打乱数据集
        return train
    
    def getTest():
        test=[[], []]  # 指定训练集的格式，一维为输入数据，一维为其标签
        # 读取所有训练图像，作为训练集
        test_root = "mnist_test"
        labels = os.listdir(test_root)
        for label in labels:
            imgpaths = os.listdir(os.path.join(test_root,label))
            for imgname in imgpaths:
                img = cv2.imread(os.path.join(test_root,label,imgname),0)
                array = np.array(img).flatten() # 将二维图像平铺为一维图像
                array = MaxMinNormalization(array)
                test[0].append(array)
                label_ = [0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
                label_[int(label)] = 1
                test[1].append(label_)
        test = shuff(test)
        return test[0], test[1]
    
    def shuff(data):
        temp = []
        for i in range(len(data[0])):
            temp.append([data[0][i], data[1][i]])
        import random
        random.shuffle(temp)
        data = [[], []]
        for tt in temp:
            data[0].append(tt[0])
            data[1].append(tt[1])
        return data
    
    count = 0
    def getBatchNum(batch_size,maxNum):
        global count
        if count == 0:
            count = count+batch_size
            return 0, min(batch_size, maxNum)
        else:
            temp = count
            count = count+batch_size
            if min(count, maxNum) == maxNum:
                count = 0
                return getBatchNum(batch_size, maxNum)
            return temp, min(count, maxNum)
        
    def MaxMinNormalization(x):
        x = (x - np.min(x)) / (np.max(x) - np.min(x))
        return x
    
    
    # 1、权重初始化,偏置初始化
    # 为了创建这个模型，我们需要创建大量的权重和偏置项
    # 为了不在建立模型的时候反复操作，定义两个函数用于初始化
    def weight_variable(shape):
        initial = tf.truncated_normal(shape, stddev=0.1)#正太分布的标准差设为0.1
        return tf.Variable(initial)
    def bias_variable(shape):
        initial = tf.constant(0.1, shape=shape)
        return tf.Variable(initial)
    
    
    # 2、卷积层和池化层也是接下来要重复使用的，因此也为它们定义创建函数
    # tf.nn.conv2d是Tensorflow中的二维卷积函数，参数x是输入，w是卷积的参数
    # strides代表卷积模块移动的步长，都是1代表会不遗漏地划过图片的每一个点，padding代表边界的处理方式
    # padding = 'SAME'，表示padding后卷积的图与原图尺寸一致，激活函数relu()
    # tf.nn.max_pool是Tensorflow中的最大池化函数，这里使用2 * 2 的最大池化，即将2 * 2 的像素降为1 * 1的像素
    # 最大池化会保留原像素块中灰度值最高的那一个像素，即保留最显著的特征，因为希望整体缩小图片尺寸
    # ksize：池化窗口的大小，取一个四维向量，一般是[1,height,width,1]
    # 因为我们不想再batch和channel上做池化，一般也是[1,stride,stride,1]
    def conv2d(x, w):
        return tf.nn.conv2d(x, w, strides=[1, 1, 1, 1], padding='SAME')  # 保证输出和输入是同样大小
    def max_pool_2x2(x):  # 最大值池化
        return tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
    # 'SAME'表示图像卷积前后大小不变(对边界进行调整)
        
    iterNum = 1000  # 数据来回训练1000次
    batch_size = 1024  # 随机批量梯度下降
    
    print("load train dataset.")
    train = getTrain()
    print("load test dataset.")
    test0, test1 = getTest()
    
    
    # 3、参数
    # 这里的x,y_并不是特定的值，它们只是一个占位符，可以在TensorFlow运行某一计算时根据该占位符输入具体的值
    # 输入图片x是一个2维的浮点数张量，这里分配给它的shape为[None, 784]，784是一张展平的MNIST图片的维度
    # None 表示其值的大小不定，在这里作为第1个维度值，用以指代batch的大小，means x 的数量不定
    # 输出类别y_也是一个2维张量，其中每一行为一个10维的one_hot向量，用于代表某一MNIST图片的类别
    x = tf.placeholder(tf.float32, [None, 784], name="x-input")  # None表示不指定输入数量
    y_ = tf.placeholder(tf.float32, [None, 10])  # 10列
    
    
    # 4、第一层卷积，它由一个卷积接一个max pooling完成
    # 张量形状[5,5,1,32]代表卷积核尺寸为5 * 5，1个颜色通道，32个通道数目
    w_conv1 = weight_variable([5, 5, 1, 32])
    b_conv1 = bias_variable([32])  # 每个输出通道都有一个对应的偏置量
    # 我们把x变成一个4d 向量其第2、第3维对应图片的宽、高，最后一维代表图片的颜色通道数(灰度图的通道数为1，如果是RGB彩色图，则为3)
    x_image = tf.reshape(x, [-1, 28, 28, 1])
    # 因为只有一个颜色通道，故最终尺寸为[-1，28，28，1]，前面的-1代表样本数量不固定，最后的1代表颜色通道数量
    h_conv1 = tf.nn.relu(conv2d(x_image, w_conv1) + b_conv1)  # 使用conv2d函数进行卷积操作，非线性处理
    h_pool1 = max_pool_2x2(h_conv1)                          # 对卷积的输出结果进行池化操作
    
    
    # 5、第二个和第一个一样，是为了构建一个更深的网络，把几个类似的堆叠起来
    # 第二层中，每个5 * 5 的卷积核会得到64个特征
    w_conv2 = weight_variable([5, 5, 32, 64])
    b_conv2 = bias_variable([64])
    h_conv2 = tf.nn.relu(conv2d(h_pool1, w_conv2) + b_conv2)# 输入的是第一层池化的结果
    h_pool2 = max_pool_2x2(h_conv2)
    
    # 6、密集连接层
    # 图片尺寸减小到7 * 7，加入一个有1024个神经元的全连接层，
    # 把池化层输出的张量reshape(此函数可以重新调整矩阵的行、列、维数)成一些向量，加上偏置，然后对其使用Relu激活函数
    w_fc1 = weight_variable([7 * 7 * 64, 1024])
    b_fc1 = bias_variable([1024])
    h_pool2_flat = tf.reshape(h_pool2, [-1, 7 * 7 * 64])
    h_fc1 = tf.nn.relu(tf.matmul(h_pool2_flat, w_fc1) + b_fc1)
    
    # 7、使用dropout，防止过度拟合
    # dropout是在神经网络里面使用的方法，以此来防止过拟合
    # 用一个placeholder来代表一个神经元的输出
    # tf.nn.dropout操作除了可以屏蔽神经元的输出外，
    # 还会自动处理神经元输出值的scale，所以用dropout的时候可以不用考虑scale
    keep_prob = tf.placeholder(tf.float32, name="keep_prob")  # placeholder是占位符（把许多图片拉成一个向量）
    h_fc1_drop = tf.nn.dropout(h_fc1, keep_prob)  # dropout随机断掉一半神经元，让网络具有随机性，更不具有数据依赖性
    
    
    # 8、输出层，最后添加一个softmax层
    w_fc2 = weight_variable([1024, 10])
    b_fc2 = bias_variable([10])
    y_conv = tf.nn.softmax(tf.matmul(h_fc1_drop, w_fc2) + b_fc2, name="y-pred")
    
    
    # 9、训练和评估模型
    # 损失函数是目标类别和预测类别之间的交叉熵
    # 参数keep_prob控制dropout比例，然后每100次迭代输出一次日志
    cross_entropy = tf.reduce_sum(-tf.reduce_sum(y_ * tf.log(y_conv),reduction_indices=[1]))
    train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)
    # 预测结果与真实值的一致性，这里产生的是一个bool型的向量
    correct_prediction = tf.equal(tf.argmax(y_conv, 1), tf.argmax(y_, 1))
    # 将bool型转换成float型，然后求平均值，即正确的比例
    accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
    # 初始化所有变量，在2017年3月2号以后,用 tf.global_variables_initializer()替代tf.initialize_all_variables()
    sess.run(tf.initialize_all_variables())
    
    # 保存最后一个模型
    saver = tf.train.Saver(max_to_keep=1)
    
    
    for i in range(iterNum):
        for j in range(int(len(train[1])/batch_size)):
            imagesNum = getBatchNum(batch_size, len(train[1]))  # 逻辑计算
            batch = [train[0][imagesNum[0]:imagesNum[1]], train[1][imagesNum[0]:imagesNum[1]]]
            train_step.run(feed_dict={x: batch[0], y_: batch[1], keep_prob: 0.5})
        if i % 2 == 0:
            train_accuracy = accuracy.eval(feed_dict={x: batch[0], y_: batch[1],keep_prob: 1.0})
            print("Step %d ,training accuracy %g" % (i, train_accuracy))
    print("test accuracy %f " % accuracy.eval(feed_dict={x: test0, y_:test1, keep_prob: 1.0})) 
    # 保存模型于文件夹
    saver.save(sess,"save/model")

这段代码需要用tensorflow跑，建议使用tensorflow-GPU，据说CPU版本的要跑十多个小时，博主的GPU版本，也就用了三个多小时吧<cry>（电脑渣，中途还断过几次，慎重）。

训练结果：

![20190601223554273.png][]         ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 8][]

在前152时形式一片大好，精确度噌噌的上涨。但到了154次时，精确度就开始变成0.101562。在运行几次之后，改过发现崩了，既然改不动，那就换一个相似的程序训练模型，下图是训练迭代次数为三万次的结果。(完整程序可在[手写识别][Link 7]下载)

## 3、测试数据 ##

利用可视化界面，测试数据更方便

import tensorflow as tf
    import numpy as np
    import tkinter as tk
    from tkinter import filedialog
    from PIL import Image, ImageTk
    from tkinter import filedialog
    import time
    
    
    def creat_windows():
        win = tk.Tk() # 创建窗口
        sw = win.winfo_screenwidth()
        sh = win.winfo_screenheight()
        ww, wh = 400, 450
        x, y = (sw-ww)/2, (sh-wh)/2
        win.geometry("%dx%d+%d+%d"%(ww, wh, x, y-40))  # 居中放置窗口
    
        win.title('手写体识别')  # 窗口命名
    
        bg1_open = Image.open("timg.jpg").resize((300, 300))
        bg1 = ImageTk.PhotoImage(bg1_open)
        canvas = tk.Label(win, image=bg1)
        canvas.pack()
    
    
        var = tk.StringVar()  # 创建变量文字
        var.set('')
        tk.Label(win, textvariable=var, bg='#C1FFC1', font=('宋体', 21), width=20, height=2).pack()
    
        tk.Button(win, text='选择图片', width=20, height=2, bg='#FF8C00', command=lambda: main(var, canvas), font=('圆体', 10)).pack()
        
        win.mainloop()
    
    def main(var, canvas):
        file_path = filedialog.askopenfilename()
        bg1_open = Image.open(file_path).resize((28, 28))
        pic = np.array(bg1_open).reshape(784,)
        bg1_resize = bg1_open.resize((300, 300))
        bg1 = ImageTk.PhotoImage(bg1_resize)
        canvas.configure(image=bg1)
        canvas.image = bg1
    
        init = tf.global_variables_initializer()
    
        with tf.Session() as sess:
                sess.run(init)
                saver = tf.train.import_meta_graph('save/model.meta')  # 载入模型结构
                saver.restore(sess, 'save/model')  # 载入模型参数
                graph = tf.get_default_graph()       # 加载计算图
                x = graph.get_tensor_by_name("x-input:0")  # 从模型中读取占位符变量
                keep_prob = graph.get_tensor_by_name("keep_prob:0")
                y_conv = graph.get_tensor_by_name("y-pred:0")  # 关键的一句  从模型中读取占位符变量
                prediction = tf.argmax(y_conv, 1)
                predint = prediction.eval(feed_dict={x: [pic], keep_prob: 1.0}, session=sess)  # feed_dict输入数据给placeholder占位符
                answer = str(predint[0])
        var.set("预测的结果是：" + answer)
    
    if __name__ == "__main__":
        creat_windows()

## 4、识别结果 ##

这里测试数据采用自己手写的数字

包含旋转、翻转、及其他不规则形态（以下图片分别是数字9、7、7、2、2、2、5、6），由预测结果可以看出，第一幅图由于9和6本身具有相似性，所以容易预测不清楚，由第三幅图预测失败，我假设它是因为数字不明显的原因，因而有了图4、图5和图6，但图4、图6预测结果正确，则给这个问题多加了层迷惑，但经过大量的实验证明，当数字线条较细时，预测结果错误率较高。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 9][]      ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 10][]       ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 11][]       ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 12][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 13][]      ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 14][]       ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 15][]        ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 16][]

第一组：数字“3”，图1和数字“8”的缺损形态类似，所以程序就将它预测成了8，旋转之后的预测结果（图4）显示是正确的，而图2和图3是数字“3”旋转90°后的结果，都不正确。所以可以假设，旋转角度超过90°预测结果就不准确。而图5和图6啪啪打脸，假设不正确。图5预测为0可以稍微理解，但是图6？可能是卷积的效果使它更接近0。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 17][]       ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 18][]     ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 19][]        ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 20][]        ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 21][]       ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 22][]      ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 23][]         ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 24][]

第二组：数字“4”，由下面各图可以看出，图1（镜像）和图3（倒置）的预测结果均正确，而图4、图5、图6在原本4的基础上增加了干扰，但预测结果也显示正确，而图6形态较不规整，预测结果错误，图8、图9及图10都属于缺损态，但图10预测错误（缺损程度较严重。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 25][]   ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 26][]   ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 27][]   ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 28][]    ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 29][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 30][]  ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 31][]   ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 32][]    ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 33][]    ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 34][]

## 5、结果分析 ##

由以上几组结果可以看出，在数字形态缺损的情况下，缺损较少且数字较正，预测结果准确度高，而缺损较大面积，则容易造成预测错误。在数字镜像翻转的情况下，一般都能够预测出正确结果，也要根据数字的具体的形态来预测。在有额外干扰的情况下，如“7”和“4”或者其他数字，都能够识别出正确结果。在不规则形态下的数字，这个要根据具体训练集是否包含足够多的形态数据，而且数字图片卷积后的结果直接影响到预测结果。此识别过程是采用卷积神经网络来识别，所以卷积这一部分非常重要。经过卷积->pooling->卷积->pooling->...，而卷积输出的结果是10x1的向量，向量表示哪个位置上的RBF输出值越接近于0，则这个位置上的索引就是识别的数字。所以可以在RBF值计算这里着手考虑识别错误的原因。

# 参考文章 #

1、[卷积神经网络CNN总结][CNN]

2、[网络解析（一）：LeNet-5详解][LeNet-5]

[Link 1]: https://baike.baidu.com/item/%E5%8D%B7%E7%A7%AF/9411006
[Link 2]: https://baike.baidu.com/item/%E5%89%8D%E9%A6%88%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/7580523
[Link 3]: https://baike.baidu.com/item/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/3729729
[Link 4]: https://blog.csdn.net/weixin_39723464/article/details/85531726
[Link 5]: https://blog.csdn.net/m0_37561765/article/details/79943816
[Link 6]: https://baike.baidu.com/item/%E6%9D%83%E5%80%BC%E5%85%B1%E4%BA%AB/22689640?fr=aladdin
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70]: /images/20220123/54b93bbf8ae34f6faa02f974458fda2b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 1]: /images/20220123/34823bbe67bc44f5a87d3c3bbc583d50.png
[Center]: /images/20220123/1a6cb85a424f4d3aa59fa94654f30373.png
[20181124130023841.gif]: /images/20220123/6af705974d4b4b0caaa47451de90d703.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20190601163313217.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 3]: /images/20220123/21873e205c284a5a9226ee61b8ff629a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 4]: /images/20220123/e905677df40245c887e6b736594cbccb.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 5]: /images/20220123/4033e114a4ce47878f54f4cb690323ae.png
[y_i_sum _j_x_j_-w_ij_2]: https://private.codecogs.com/gif.latex?y_%7Bi%7D%3D%5Csum%20_%7Bj%7D%28x_%7Bj%7D-w_%7Bij%7D%29%5E%7B2%7D
[w_ij]: https://private.codecogs.com/gif.latex?w_%7Bij%7D
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 6]: /images/20220123/12af9353eafe45109063ced23a359b65.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 7]: /images/20220123/9693e51c544446f5abf84779fa979758.png
[20190601223554273.png]: https://img-blog.csdnimg.cn/20190601223554273.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 8]: /images/20220123/dd3383d523d844128d965c37c8e60adc.png
[Link 7]: https://download.csdn.net/download/qq_37374643/11221546
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 9]: https://img-blog.csdnimg.cn/20190601201913427.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 10]: https://img-blog.csdnimg.cn/20190601201951931.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 11]: https://img-blog.csdnimg.cn/20190601202030544.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 12]: /images/20220123/212ec0223af5492b83c293856dc43a80.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 13]: https://img-blog.csdnimg.cn/20190601210007998.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 14]: https://img-blog.csdnimg.cn/20190601210313115.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 15]: https://img-blog.csdnimg.cn/20190601202209168.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 16]: /images/20220123/7774982fa75f45f399d8e694312dda0d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 17]: https://img-blog.csdnimg.cn/20190601204030471.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 18]: https://img-blog.csdnimg.cn/20190601203748270.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 19]: https://img-blog.csdnimg.cn/20190601203827901.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 20]: https://img-blog.csdnimg.cn/20190601203808753.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 21]: https://img-blog.csdnimg.cn/20190601211420256.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 22]: https://img-blog.csdnimg.cn/20190601211706343.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 23]: https://img-blog.csdnimg.cn/2019060120385539.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 24]: /images/20220123/e40b794c7d60459c9b2b6250f1012250.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 25]: https://img-blog.csdnimg.cn/20190601204301407.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 26]: https://img-blog.csdnimg.cn/2019060120433083.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 27]: https://img-blog.csdnimg.cn/20190601202109246.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 28]: https://img-blog.csdnimg.cn/20190601212554112.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 29]: /images/20220123/8890560a0eb2422f935ca8bfebd9731e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 30]: https://img-blog.csdnimg.cn/20190601213006328.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 31]: https://img-blog.csdnimg.cn/20190601204609720.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 32]: https://img-blog.csdnimg.cn/20190601204418305.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 33]: https://img-blog.csdnimg.cn/20190601204638182.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3Mzc0NjQz_size_16_color_FFFFFF_t_70 34]: /images/20220123/38f549243e0c437d90a8b67890e4e2f2.png
[CNN]: https://www.cnblogs.com/skyfsm/p/6790245.html
[LeNet-5]: https://cuijiahua.com/blog/2018/01/dl_3.html