用Python实现神经网络（附完整代码）！

迈不过友情╰ 2024-04-24 23:21 3阅读 0赞

#### 前言 ####

在学习神经网络之前，我们需要对神经网络底层先做一个基本的了解。我们将在本节介绍感知机、反向传播算法以及多种梯度下降法以给大家一个全面的认识。

![48756dbd1e6dd490d0b8737d18c88805.png][]  
**【----帮助Python学习，以下所有学习资料文末免费领！----】**

##### **一、感知机** #####

数字感知机的本质是从数据集中选取一个样本（example），并将其展示给算法，然后让算法判断“是”或“不是”。一般而言，把单个特征表示为\_xi\_，其中\_i\_是整数。所有特征的集合表示为，表示一个向量：，

类似地，每个特征的权重表示为 其中 对应于与该权重关联的特征的下标，所有权重可统一表示为 一个向量:

这里有一个缺少的部分是是否激活神经元的阈值。一旦加权和超过某个阈值，感知机就输出1，否则输出0。我们可以使用一个简单的**阶跃函数**（在图5-2中标记为“激活函数”）来表示这个阈值。

![f2dfee6bb6135dc428593ed253761a0e.png][]

> 注：所有神经网络的基本单位都是神经元，基本感知机是广义神经元的一个特例，从现在开始，我们将感知机称为一个神经元。

**二、反向传播算法**

###### 2.1 代价函数 ######

很多数据值之间的关系不是线性的，也没有好的线性回归或线性方程能够描述这些关系。许多数据集不能用直线或平面来线性分割。比如下图中左图为线性可分的数据，而右图为线性不可分的数据：

![327f7f4f00c551ff89b26920c774a06a.png][]

而我们训练神经网络（感知机）的目标是最小化所有输入样本数据的代价函数

###### 2.2 反向传播 ######

权重通过下一层的权重（）和（）来影响误差，因此我们需要一种方法来计算对误差的贡献，这个方法就是**反向传播**。

![a85abc3241e2695a592d81f01f489967.png][]

感知机的每个输入都有一个权重，第二层神经元的权重不是分配给原始输入的，而是分配给来自第一层的各个输出。从这里我们可以看到计算第一层权重对总体误差的影响的难度。第一层权重对误差的影响并不是只来自某个单独权重，而是通过下一层中每个神经元的权重来产生的。反向传播的推导过程较为复杂，这里仅简单展示其结果：

如果该层是输出层，借助于可微的激活函数，权重的更新比较简单, 对于第 个输出，误差的导数如下

如果要更新隐藏层的权重，则会稍微复杂一点儿：

函数表示实际结果向量，表示该向量第个位置上的值，，是倒数第二层第个节点和输出第个节点的输出，连接这两个节点的权重为，误差代价函数对求导的结果相当于用（学习率）乘以前一层的输出再乘以后一层代价函数的导数。公式中表示层第个节点上的误差项，前一层第个节点到层所有的节点进行加权求和。

###### 2.3 多种梯度下降法 ######

到目前为止，我们一直是把所有训练样本的误差聚合起来然后再做梯度下降，这种训练方法称为**批量学习**（batch learning）。一批是训练数据的一个子集。但是在批量学习中误差曲面对于整个批是静态的，如果从一个随机的起始点开始，得到的很可能是某个局部极小值，从而无法看到其他的权重值的更优解。这里有两种方法来避开这个陷阱。

第一种方法是**随机**梯度下降法。在随机梯度下降中，不用去查看所有的训练样本，而是在输入每个训练样本后就去更新网络权重。在这个过程中，每次都会重新排列训练样本的顺序，这样将为每个样本重新绘制误差曲面，由于每个相异的输入都可能有不同的预期答案，因此大多数样本的误差曲面都不一样。对每个样本来说，仍然使用梯度下降法来调整权重。不过不用像之前那样在每个训练周期结束后聚合所有误差再做权重调整，而是针对每个样本都会去更新一次权重。其中的关键点是，每一步都在向假定的极小值**前进**（不是所有路径都通往假定的极小值）。

使用正确的数据和超参数，在向这个波动误差曲面的各个最小值前进时，可以更容易地得到全局极小值。如果模型没有进行适当的调优，或者训练数据不一致，将导致原地踏步，模型无法收敛，也学不会任何东西。不过在实际应用中，随机梯度下降法在大多数情况下都能有效地避免局部极小值。这种方法的缺点是计算速度比较慢。计算前向传播和反向传播，然后针对每个样本进行权重更新，这在本来已经很慢的计算过程的基础上又增加了很多时间开销。

第二种方法，也是更常见的方法，是**小批量**学习。在小批量学习中，会传入训练集的一个小的子集，并按照批量学习中的误差聚合方法对这个子集对应的误差进行聚合。然后对每个子集按批将其误差进行反向传播并更新权重。下一批会重复这个过程，直到训练集处理完成为止，这就重新构成了一个训练周期。这是一种折中的办法，它同时具有**批量**学习（快速）和**随机**梯度下降（具有弹性）的优点。

**三、Keras：用Python实现神经网络**

用原生Python来编写神经网络是一个非常有趣的尝试，而且可以帮助大家理解神经网络中的各种概念，但是Python在计算速度上有明显缺陷，即使对于中等规模的网络，计算量也会变得非常棘手。不过有许多Python库可以用来提高运算速度，包括PyTorch、Theano、TensorFlow和Lasagne等。本书中的例子使用Keras。

Keras是一个高级封装器，封装了面向Python的API。API接口可以与3个不同的后端库相兼容：Theano、谷歌的TensorFlow和微软的CNTK。这几个库都在底层实现了基本的神经网络单元和高度优化的线性代数库，可以用于处理点积，以支持高效的神经网络矩阵乘法运算。

我们以简单的异或问题为例，看看如何用Keras来训练这个网络。

import numpy as np
    from keras.models import Sequential　　# Kera的基础模型类
    from keras.layers import Dense, Activation　　# Dense是神经元的全连接层
    from keras.optimizers import SGD　　# 随机梯度下降，Keras中还有一些其他优化器
    # Our examples for an exclusive OR.
    x_train = np.array([[0, 0],[0, 1],[1, 0],[1, 1]]) 　　# x_train是二维特征向量表示的训练样本列表
    y_train = np.array([[0],[1],[1],[0]]) 　　# y_train是每个特征向量样本对应的目标输出值
    model = Sequential()
    num_neurons = 10　　#　全连接隐藏层包含10个神经元
    model.add(Dense(num_neurons, input_dim=2)) 　　#　 input_dim仅在第一层中使用，后面的其他层会自动计算前一层输出的形状，这个例子中输入的XOR样本是二维特征向量，因此input_dim设置为2
    model.add(Activation('tanh'))
    model.add(Dense(1)) 　　#　输出层包含一个神经元，输出结果是二分类值（0或1）
    model.add(Activation('sigmoid'))
    model.summary()

可以看到模型的结构为：

Layer (type)                 Output Shape                Param 
    =================================================================
    dense_18 (Dense)             (None, 10)                  30
    _________________________________________________________________
    activation_6 (Activation)    (None, 10)                  0
    _________________________________________________________________
    dense_19 (Dense)             (None, 1)                   11
    _________________________________________________________________
    activation_7 (Activation)    (None, 1)                   0
    =================================================================
    Total params: 41.0
    Trainable params: 41.0
    Non-trainable params: 0.0

`model.summary()`提供了网络参数及各阶段权重数（`Param \#`）的概览。我们可以快速计算一下：10个神经元，每个神经元有3个权重，其中有两个是输入向量的权重（输入向量中的每个值对应一个权重），还有一个是偏置对应的权重，所以一共有30个权重需要学习。输出层中有10个权重，分别与第一层的10个神经元一一对应，再加上1个偏置权重，所以该层共有11个权重。

下面的代码可能有点儿不容易理解：

sgd = SGD(lr=0.1)
    model.compile(loss='binary_crossentropy', optimizer=sgd, metrics=['accuracy'])

SGD是之前导入的随机梯度下降**优化器**，模型用它来最小化误差或者**损失**。`lr`是学习速率，与每个权重的误差的导数结合使用，数值越大模型的学习速度越快，但可能会使模型无法找到全局极小值，数值越小越精确，但会增加训练时间，并使模型更容易陷入局部极小值。损失函数本身也定义为一个参数，在这里用的是`binary_crossentropy`。`metrics`参数是训练过程中输出流的选项列表。用`compile`方法进行编译，此时还未开始训练模型，只对权重进行了初始化，大家也可以尝试一下用这个随机初始状态来预测，当然得到的结果只是随机猜测：

model.predict(x_train)
    [[ 0.5       ][ 0.43494844][ 0.50295198][ 0.42517585]]

`predict`方法将给出最后一层的原始输出，在这个例子中是由`sigmoid`函数生成的。

之后再没什么好写的了，但是这里还没有关于答案的任何知识，它只是对输入使用了随机权重。接下来可以试着进行训练。

model.fit(x_train, y_train, epochs=100) 　　#　从这里开始训练模型
    Epoch 1/100
    4/4 [==============================] - 0s - loss: 0.6917 - acc: 0.7500
    Epoch 2/100
    4/4 [==============================] - 0s - loss: 0.6911 - acc: 0.5000
    Epoch 3/100
    4/4 [==============================] - 0s - loss: 0.6906 - acc: 0.5000
    ...
    Epoch 100/100
    4/4 [==============================] - 0s - loss: 0.6661 - acc: 1.0000

**提示**

在第一次训练时网络可能不会收敛。第一次编译可能以随机分布的参数结束，导致难以或者不能得到全局极小值。如果遇到这种情况，可以用相同的参数再次调用`model.fit`，或者添加更多训练周期，看看网络能否收敛。或者也可以用不同的随机起始点来重新初始化网络，然后再次尝试`fit`。如果使用后面这种方法，请确保没有设置随机种子，否则只会不断重复同样的实验结果。

当网络一遍又一遍地学习这个小数据集时，它终于弄明白了这是怎么回事。它从样本中“学会”了什么是异或！这就是神经网络的神奇之处。

model.predict_classes(x_train)
    4/4 [==============================] - 0s
    [[0][1][1][0]]
    model.predict(x_train)
    4/4 [==============================] - 0s
    [[ 0.0035659 ][ 0.99123639][ 0.99285167][ 0.00907462]]

在这个经过训练的模型上再次调用`predict`（和`predict_classes`）会产生更好的结果。它在这个小数据集上获得了 100%的精确度。当然，精确率并不是评估预测模型的最佳标准，但对这个小例子来说完全可以说明问题。接下来展示了如何保存这个异或模型:

import h5py
    model_structure = model.to_json()　　#　用Keras的辅助方法将网络结构导出为JSON blob类型以备后用with open("basic_model.json", "w") as json_file:json_file.write(model_structure)model.save_weights("basic_weights.h5")　　#　训练好的权重必须被单独保存。第一部分只保存网络结构。在后面重新加载网络结构时必须对其重新实例化

同样也有对应的方法来重新实例化模型，这样做预测时不必再去重新训练模型。虽然运行这个模型只需要几秒，但是在后面的章节中，模型的运行时间将会快速增长到以分钟、小时甚至天为单位，这取决于硬件性能和模型的复杂度，所以请准备好！

### 关于Python学习指南 ###

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

包括：Python激活码+安装包、Python web开发，Python爬虫，Python数据分析，人工智能、自动化办公等学习教程。带你从零基础系统性的学好Python！

##### 👉Python所有方向的学习路线👈 #####

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。**（全套教程文末领取）**

![在这里插入图片描述][3c4ee87941694f3789398db3d52a2637.png_pic_center]

##### 👉Python学习视频600合集👈 #####

观看零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

![在这里插入图片描述][64c89bf6293d4699bf7ee8f34b9e69fd.png_pic_center]

##### 温馨提示：篇幅有限，已打包文件夹，获取方式在：文末 #####

##### 👉Python70个实战练手案例&源码👈 #####

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

![在这里插入图片描述][2017b67544f94e8898db755e2703224a.png_pic_center]

##### 👉Python大厂面试资料👈 #####

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自**阿里、腾讯、字节等一线互联网大厂**最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

![在这里插入图片描述][3055c54d3224495987c589f150324d73.png_pic_center]

![在这里插入图片描述][b0751719fe914aec8c8d09f62f772e44.png_pic_center]

##### 👉Python副业兼职路线&方法👈 #####

学好 Python 不论是就业还是做副业赚钱都不错，但要学会兼职接单还是要有一个学习规划。

![在这里插入图片描述][01bcd7cbfd6d43fb85ef410766735154.png_pic_center]

**👉** **这份完整版的Python全套学习资料已经上传，朋友们如果需要可以扫描下方CSDN官方认证二维码或者点击链接免费领取**【**`保证100%免费`**】

![28c313fe0bc8cfd922b6246074689e50.png][]

[48756dbd1e6dd490d0b8737d18c88805.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/e7389dd077484ff7b55c2eac449dc541.png
[f2dfee6bb6135dc428593ed253761a0e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/feefdff9c68d4cafbd98f5b307ebdd5a.png
[327f7f4f00c551ff89b26920c774a06a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/1079223226c34df6b9b266fe67fcb132.png
[a85abc3241e2695a592d81f01f489967.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/1f5fe5a59669484d9a5e4cf50731ef27.png
[3c4ee87941694f3789398db3d52a2637.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/4efd18c5536c4bbf9dbf4107e6558cb5.png
[64c89bf6293d4699bf7ee8f34b9e69fd.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/80b21a6b842c46c6bcb22471889db21e.png
[2017b67544f94e8898db755e2703224a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/6f602d301b8d483189b7b7619ee5ea81.png
[3055c54d3224495987c589f150324d73.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/123022a6401748ebb0fb4305b5c43d43.png
[b0751719fe914aec8c8d09f62f772e44.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/9eebfb470d3348ea9b38eb541b722eee.png
[01bcd7cbfd6d43fb85ef410766735154.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/7ec9e7b5c3174d43840c60d6961394db.png
[28c313fe0bc8cfd922b6246074689e50.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/24/589c0b8a01b94520a52d0f341b49a354.png