吴恩达Neural Networks and Deep Learning：Course1Week1

╰+攻爆jí腚メ 2022-03-16 11:12 180阅读 0赞

**目录**

1、整个系列包含5个course

2、什么是神经网络？

3、深度学习中的有监督学习

4、深度学习为什么最近才迅速崛起？take off

5、course1的课程安排

6、问题和资源

7、采访Geoffrey Hinton

--------------------

### 1、整个系列包含5个course ###

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70][]

（1）神经网络和深度学习简介：猫识别器

（2）深度神经网络的超参数

（3）机器学习工程结构

（4）CNN：主要用于图像

（5）NLP主要模型：RNN，LSTM

### 2、什么是神经网络？ ###

（1）ReLU

Rectified Linear Unit：线性矫正神经元

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 1][]

### 3、深度学习中的有监督学习 ###

（1）深度学习应用

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 2][]

房价预测和广告点击预测：标准神经网络单元

图像分类：CNN

语音转文字、机器翻译：序列模型RNN

自动驾驶：更复杂的CNN

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 3][]

（2）结构化数据和非结构化数据

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 4][]

结构化数据：数据库里面的表格等，目前主要应用在广告预测，利润预测等

非结构化数据：语音，图像，文本等

### 4、深度学习为什么最近才迅速崛起？take off ###

数据、计算能力、算法优化

计算能力的提升可以来自硬件，也可以来自于算法的提升。比如：sigmoid换成relu。梯度从很小到1，可以加入梯度下降。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 5][]

### 5、course1的课程安排 ###

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 6][]

基础知识、单隐藏层、深度神经网络

### 6、问题和资源 ###

（1）一些使用或者反馈问题的解决方法

（2）资源：论坛，邮件

### 7、采访Geoffrey Hinton ###

经历真的很神奇：物理+化学--建筑学--生物学+物理学--哲学--心理学--木匠--AI

成名作：反向传播BP，玻尔兹曼机，深度学习

想法：胶囊网络，每个部分可以用一个唯一的胶囊来识别。不同的检测可以用不同的胶囊来组合

对深度学习的两个建议：

（1）

如果你的直觉很好，那么坚持下去，你一定能成功；如果你的直觉不好，那做什么也无所谓了，哈哈哈哈哈哈。

Either your intuitions are good or they're not.

If your intuitions are good, you should follow them and you'll eventually be successful.

If your intuitions are not good, it doesn't matter what you do.

（2）

读尽量多的文献，一直到可以有自己的直觉。然后，相信你的直觉，然后做下去。

Read enough so you start developing intuitions. And then, trust your intuitions and go for it.

（3）

人与计算机的关系发生了变化，从编程-给计算机输入指令，变成了给计算器展示数据，让他们自己理解和学习。

还有个新概念不理解：符号人工智能

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70]: /images/20220316/9beb9a0024e84c77b93aba1f88d64aec.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 1]: /images/20220316/f6a858ac1b8b41ad812bb39c3e551b70.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 2]: /images/20220316/abd00be8b8e648449267994bd3f1a516.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 3]: /images/20220316/9b7af37c69c84d9d9836f6ef000821ba.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 4]: /images/20220316/8c71d37157694acf95f509b456896750.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 5]: /images/20220316/d24a3b6380984292922f83a0f705b7a6.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTc3MDE2OQ_size_16_color_FFFFFF_t_70 6]: /images/20220316/6c0a7c879ea34b8e81e393d2d55b9fa9.png