吴恩达机器学习笔记--第四周-2.神经网络

不念不忘少年蓝@ 2022-05-26 09:58 196阅读 0赞

# week4-2.Neural Network #

## **一、Model Representation I** ##

![70][]

在神经网络中，常常把Sigmoid/逻辑函数叫做激励函数（activation function），而把参数（parameter）theta叫做权重（weights）。

有时候可以把x0（bias unit）添加到神经网络里去，有时候不添加。

![70 1][]

输入层：input layer；隐藏层：hidden layer；输出层：output layer。

![70 2][]

a\_i(j)表示第j层的第i个神经元。

theta(j)表示从第j层到第j+1层的权重矩阵。

权重矩阵theta(j)的维度是s\_(j+1)\*(s\_j+1)。s\_(j+1)是第j+1层的节点数，(s\_j+1)是第j层的节点数+1.所以图中theta(1)的维度是3\*4（从图中a(2)的三个表达式也能看出来：三行四列），theta(2)的维度是1\*4.

## **二、Model Representation II** ##

![70 3][]

z\_i(j)是对第j-1层的神经元的加权线性组合，这个线性组合作为计算第j层第i个元素的输入。

这个线性组合z(j)可以向量化为theta(j-1)\*X.

上图中的a(2)是一个三维向量，z(2)也是三维向量，g函数（激励函数）作用于z(2)中的每一个元素上。

为了表示偏置，需要加上a\_0(1)=1,a\_0(2)=1,这样a(1)、a(2)就变成了四维向量。

上述方法称为前向传播（forward propagation）

![70 4][]

每一层可以看做对上一层做逻辑回归。

[70]: /images/20220526/d7350708148f419fa16df2564c7b8782.png
[70 1]: /images/20220526/215ef1fb674c4e558177509b76b7760b.png
[70 2]: /images/20220526/a4fb21cc7b35463885f9784a4a2ba120.png
[70 3]: /images/20220526/24cc5358f96947e89e7ec45c4b9a6226.png
[70 4]: /images/20220526/3f216455c2664d7a8199588f5cc7083f.png

发表评论取消回复

表情：

评论列表（有 0 条评论，196人围观）

还没有评论，来说两句吧...

相关阅读

相关【吴恩达机器学习笔记】5神经网络的学习

9 神经网络的学习(Neural Networks: Learning) 9.1 代价函数（Cost Function）假设神经网络的训练样本有 m m m个，每

Love The Way You Lie/ 2023年01月02日 05:20/ 0 赞/ 172 阅读

相关【吴恩达机器学习笔记】4神经网络

8 神经网络：表述(Neural Networks: Representation) 8.1 非线性假设（Non-linear hypothe）线性回归和逻辑回归

朱雀/ 2023年01月02日 03:28/ 0 赞/ 214 阅读

相关吴恩达机器学习课程07——神经网络学习

目录神经网络模型前向传播反向传播 -------------------- 神经网络模型关于这一块的入门知识，比如什么是

左手的ㄟ右手/ 2022年11月20日 11:55/ 0 赞/ 223 阅读

相关吴恩达机器学习笔记--第四周-3.神经网络的应用

week4-3.Applications 一、Examples and Intuitons I ![70][] 神经网络实现与（and）运算。 ![70 1][]

╰半橙微兮°/ 2022年05月26日 09:58/ 0 赞/ 190 阅读

相关吴恩达机器学习笔记--第四周-2.神经网络

week4-2.Neural Network 一、Model Representation I ![70][] 在神经网络中，常常把Sigmoid/逻辑

不念不忘少年蓝@/ 2022年05月26日 09:58/ 0 赞/ 197 阅读

相关吴恩达机器学习笔记--第四周-1.使用神经网络的动机

week4-1.Motivation 一、Non-linear Hypothesis 在一些分类问题中，需要的参数可能会非常多，而且这些参数可能会以高次形式组合，变

矫情吗；*/ 2022年05月26日 09:57/ 0 赞/ 153 阅读

相关吴恩达-coursera-机器学习测试题第四周

![70][] 原因是： ![70 1][] 在神经网络中隐藏单元的激活值，在每一层都应用了sigmoid激活函数，总是在范围内（0,1）。 ![70 2][]

￡神魔★判官ぃ/ 2022年05月18日 02:07/ 0 赞/ 199 阅读

相关吴恩达神经网络学习笔记

吴恩达神经网络学习笔记：[网易云笔记入口][Link 1] [Link 1]: http://note.youdao.com/noteshare?id=0f9967723e

Myth丶恋晨/ 2022年02月17日 05:11/ 0 赞/ 287 阅读

相关吴恩达《机器学习》——第四次作业：BP神经网络

本此作业和上次作业的目标一样，属于多元分类任务。不过这次是使用BP神经网络。准确度比没有使用神经网络的第三次作业要高，但是训练的时间也长了很多。参考：[https://g

待我称王封你为后i/ 2022年01月30日 08:09/ 0 赞/ 262 阅读

相关吴恩达机器学习：神经网络 | 反向传播算法

上一周我们学习了 [神经网络 | 多分类问题][Link 1]。我们分别使用逻辑回归和神经网络来解决多分类问题，并了解到在特征数非常多的情况下，神经网络是更为有效的方法

逃离我推掉我的手/ 2022年01月20日 02:05/ 0 赞/ 330 阅读