keras深度学习框架通过简单神经网络实现手写数字识别

浅浅的花香味﹌ 2024-03-24 22:16 89阅读 0赞

### 背景 ###

keras深度学习框架，并不是一个独立的深度学习框架，它后台依赖tensorflow或者theano。大部分开发者应该使用的是tensorflow。keras可以很方便的像搭积木一样根据模型搭出我们需要的神经网络，然后进行编译，训练，测试，预测。

今天介绍的手写数字识别实验，主要是熟悉keras搭建神经网络的流程，以及大体的思路。现如今，手写数字识别实验的代码各种各样，对于初学者而言，我们需要的是类似helloworld那样简单的示例。通过示例，我们可以了解神经网络的搭建过程。

这里使用的手写数字识别，通过搭建网络，构建模型，最后保存模型，然后我们加载模型，通过真实的图片来预测，也检验一下神经网络的能力。

这里手写数字识别数据来源于官方自带mnist数据集，这个数据集包含60000个训练集和10000个测试集。每个数据是由28 \* 28 = 784个矩阵元素组成。所以我们自己用来测试的图片最后应该也要按照这个28\*28的尺寸来制作，并且最后进行预测predict的时候，也要像训练集或者测试集一样，把图片转为一个784元素的数组。

### 准备代码 ###

import keras
    import numpy as np
    import tensorflow as tf
    from keras.models import Sequential
    from keras.layers import Dense, Activation
    from tensorflow.keras import datasets, utils
    import matplotlib.pyplot as plt
    
    
    (x_train, y_train), (x_test, y_test) = datasets.mnist.load_data()
    x_train = x_train.reshape((-1, 28*28))
    x_train = x_train.astype('float32')/255
    x_test = x_test.reshape((-1, 28*28))
    x_test = x_test.astype('float32')/255
    
    y_train = utils.to_categorical(y_train, num_classes=10)
    y_test = utils.to_categorical(y_test, num_classes=10)
    
    print('x_train.shape', x_train.shape)
    print('x_test.shape', x_test.shape)
    print('y_train.shape', y_train.shape)
    print('y_test.shape', y_test.shape)
    """
    layer = [Dense(32, input_shape=(784,)),
             Activation('relu'),
             Dense(10),
             Activation('softmax')]
    
    model = Sequential(layer)
    """
    model = Sequential()
    # model.add(Dense(units=784, activation="relu", input_dim=784))
    model.add(Dense(512, activation="relu", input_shape=(28*28, )))
    model.add(Dense(10, activation="softmax"))
    
    model.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
    model.summary()
    
    history = model.fit(x_train, y_train, epochs=5, batch_size=128, validation_data=(x_test, y_test))
    
    acc = history.history['accuracy']
    val_acc = history.history['val_accuracy']
    epochs = range(1, len(acc) + 1)
    plt.plot(epochs, acc, 'bo', label="Training accuracy")
    plt.plot(epochs, val_acc, 'b', label="Validation accuracy")
    plt.title('Training and Validation accuracy')
    plt.xlabel('Epochs')
    plt.ylabel('Accuracy')
    plt.legend()
    plt.show()
    model.save("mnist.h5")
    prediction = model.predict(x_test[:1], batch_size=32)
    print(x_test[:1])
    print(y_test[:1])
    print(prediction)
    print(np.argmax(prediction, axis=1))

这个代码在引入了相关库之后，进行的第一件事就是数据处理：

(x_train, y_train), (x_test, y_test) = datasets.mnist.load_data()
    x_train = x_train.reshape((-1, 28*28))
    x_train = x_train.astype('float32')/255
    x_test = x_test.reshape((-1, 28*28))
    x_test = x_test.astype('float32')/255
    y_train = utils.to_categorical(y_train, num_classes=10)
    y_test = utils.to_categorical(y_test, num_classes=10)
    
    print('x_train.shape', x_train.shape)
    print('x_test.shape', x_test.shape)
    print('y_train.shape', y_train.shape)
    print('y_test.shape', y_test.shape)

我们的数据集x\_train,x\_test就是我们的图片数据，这个数据是784个元素组成的数组，我们先进行转矩阵，然后对像素点取模，得到0-1之间的值。我们代码最后打印了x\_test\[:1\]，可以看看它的样子：

![1df3deeb7d2a4921991143a5a07a901f.png][]

这里我们还使用了utils.to\_categorical(y\_test,num\_classes=10) 对我们的目标进行了one-hot转码。通过这个图我们也看到了，数字 7 转了one-hot编码之后，变为了\[0,0,0,0,0,0,0,1,0,0\]。

这个代码构建了一个简单的神经网络，也就两层，

第一层输入层 Dense(512,activation="relu",input\_shape=(28\*28, )) \#512个节点，relu激活函数，输入形状或者维度 28\*28=784。代码中也给出了另一种通过input\_dim来指定维度的方法，意思是一样的，但是那种写法model.add(Dense(units=784, activation="relu", input\_dim=784))指定的网络节点units=784。这个数字可以随便定义。手写数字识别里面，设置512，784都可以。

第二层输出层 Dense(10, activation="softmax") \#这里指定对应十个分类，也就是数字0，1，2，3，4，5，6，7，8，9的个数。手写数字识别是一个多分类问题。

没有隐藏层，也没有其他的Dropout。就是简单神经网络。

另外，代码中还给出了一种构建神经网络的办法：

layer = [Dense(32, input_shape=(784,)),
             Activation('relu'),
             Dense(10),
             Activation('softmax')]
    
    model = Sequential(layer)

意思是一样的，只不过，这里units=32，也就是输入层由32个神经网络节点组成。

model.compile(loss="categorical_crossentropy", optimizer="adam", metrics=["accuracy"])
    model.summary()

这是编译神经网络和打印神经网络概要。

编译神经网络传入loss="categorical\_cressentropy" 表示损失函数求的是交叉熵。optimizer="adam"，表示优化器是adam，表示自适应算法，另外，也有可能会看到sgd，随机梯度下降算法，或者rmsprop也是一种自适应算法。metrics=\["accuracy"\]统计指标，这里指定成功率。

通过model.summary()我们可以看到神经网络节点信息：

![4ef8719492cb4c3697b2a18cd058e610.png][]

history = model.fit(x_train, y_train, epochs=5, batch_size=128, validation_data=(x_test, y_test))

这里是把训练和测试神经网络放在一起了，我们传入的validation\_data指定了测试数据集。如果不指定validation\_data，那么后面，我们通过model.evaluate(x\_test,y\_test) 也可以得到loss,acc等数据。

acc = history.history['accuracy']
    val_acc = history.history['val_accuracy']
    epochs = range(1, len(acc) + 1)
    plt.plot(epochs, acc, 'bo', label="Training accuracy")
    plt.plot(epochs, val_acc, 'b', label="Validation accuracy")
    plt.title('Training and Validation accuracy')
    plt.xlabel('Epochs')
    plt.ylabel('Accuracy')
    plt.legend()
    plt.show()

我们通过matplot来展示acc,val\_acc等信息，结果如下图所示：

![8955827e9aca4416bb4fca9eb5036db2.png][]

我们还通过model.save("mnist.h5")保存模型，后面我们会加载这个模型来进行预测。

prediction = model.predict(x_test[:1], batch_size=32)
    print(x_test[:1])
    print(y_test[:1])
    print(prediction)
    print(np.argmax(prediction, axis=1))

我们简单通过测试集的第一个数字7来进行了一个验证，这个验证，主要是要知道我们将来传入图片需要什么类型的数据，以及得到预测结果之后，怎么取值。这里prediction是一个按照概率来进行组装的数组，哪个概率大，最终的结果就是谁。我们通过np.argmax(prediction, axis=1)指定获取一个数组中按行(axis=1)来统计最大的那个数。

\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*\*

### 预测 ###

很多代码示例里面，基本上到了model.evaluate()对算法进行评估之后，就没有了，对于刚入门的人来说，神经网络创建了，测试了，好不好用也不知道。因为这个训练集和测试机都是官网给出的例子，对于程序员来说，通过实践来验证一个猜测，那才是最重要的，至于这是什么不重要。

上面的代码最后，我们通过测试集x\_test\[:1\]也就是第一个测试数字简单做了一个预测，大概知道了要预测，需要的数据是一个\[28\*28=784\]的数组。而我们准备的测试图片应该也要和官方给出的测试数据对应上，也即是前面提到的图片是28\*28像素的数字图片，如下所示：

![524cd7fb886847999d6aab0f5f000dcb.png][]![6774e610d21b402eac46d1531af244a6.png][]![c7c59879357e43559922271d6a6ad865.png][]![7827fa913005473d9588e4251012e8fe.png][]![4d0bb9ad982a4d1786b2727745d8edcc.png][]![b7266444a1624bdab72cd964f241e679.png][]![6227fc9c06bc4fc08504067cd1836af9.png][]![27d822fcde8a4bb8bad86f75459fb197.png][]![a6211f9cdea4496ea417f4c3959da685.png][]![cb359757321d4c47b3c93f9e723133f1.png][]

同样的给出代码：

import keras
    import numpy as np
    import cv2
    from keras.models import load_model
    
    model = load_model("mnist.h5")
    
    
    def predict(img_path):
        img = cv2.imread(img_path, 0)
        img = img.reshape(28, 28).astype("float32") / 255  # 0 1
        img = img.reshape(-1, 784)  # 28 * 28 -> 784
        label = model.predict(img)
        label = np.argmax(label, axis=1)
        print('{} -> {}'.format(img_path, label[0]))
    
    
    if __name__ == '__main__':
        for _ in range(10):
            predict("number_images/b_{}.png".format(_))

这些图片我们放在number\_images目录下，命名规则是b\_0.png,b\_1.png这样子。

最后，我们加载模型，并通过opencv库加载图片，并转换图片矩阵为784个元素的数组。然后交给模型预测，预测结果是一个概率数组，取概率最大的那个数组元素。

预测结果如下：

![5f5d3bda80374966819b74b0ea29ed7e.png][]

结果很感人，并没有达到很高的概率，准确率60%，而且这个概率对于手写图片识别来说，还有点偏高，因为实际上很多数字图片识别错误。

这篇文章，主要就keras构建简单神经网络，并进行训练，测试，最后还通过我们自己手写的数字图片来进行预测验证，也过了一把深度学习的瘾。

本文keras和tensorflow版本是2.8.0，可能有几个api与其他地方有区别，比如datasets,这里使用的是tensorflow.keras.datasets。另外在计算成功率acc的时候，使用的是history\['accuracy'\]，有的地方可能直接是history\['acc'\]，应该是版本的问题，根据自己的版本找到合适的方法就行。

[1df3deeb7d2a4921991143a5a07a901f.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/13/a40a60bcc9f84d2a8391235bbf223e97.png
[4ef8719492cb4c3697b2a18cd058e610.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/13/f6a5a95bb1794d00b163d75aa386039f.png
[8955827e9aca4416bb4fca9eb5036db2.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/13/5818d732881a4df995e13e4cb42e9d1c.png
[524cd7fb886847999d6aab0f5f000dcb.png]: https://img-blog.csdnimg.cn/524cd7fb886847999d6aab0f5f000dcb.png
[6774e610d21b402eac46d1531af244a6.png]: https://img-blog.csdnimg.cn/6774e610d21b402eac46d1531af244a6.png
[c7c59879357e43559922271d6a6ad865.png]: https://img-blog.csdnimg.cn/c7c59879357e43559922271d6a6ad865.png
[7827fa913005473d9588e4251012e8fe.png]: https://img-blog.csdnimg.cn/7827fa913005473d9588e4251012e8fe.png
[4d0bb9ad982a4d1786b2727745d8edcc.png]: https://img-blog.csdnimg.cn/4d0bb9ad982a4d1786b2727745d8edcc.png
[b7266444a1624bdab72cd964f241e679.png]: https://img-blog.csdnimg.cn/b7266444a1624bdab72cd964f241e679.png
[6227fc9c06bc4fc08504067cd1836af9.png]: https://img-blog.csdnimg.cn/6227fc9c06bc4fc08504067cd1836af9.png
[27d822fcde8a4bb8bad86f75459fb197.png]: https://img-blog.csdnimg.cn/27d822fcde8a4bb8bad86f75459fb197.png
[a6211f9cdea4496ea417f4c3959da685.png]: https://img-blog.csdnimg.cn/a6211f9cdea4496ea417f4c3959da685.png
[cb359757321d4c47b3c93f9e723133f1.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/13/60ab7fdae6ac4f089ea0afe4314ec218.png
[5f5d3bda80374966819b74b0ea29ed7e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/13/54bf7a6a8a66403484ee7a25c63f4cab.png