《深度学习 500 问》已更新，GitHub 标星 2.6W

「爱情、让人受尽委屈。」 2021-12-10 03:27 259阅读 0赞

> 来源：[Datawhale][]

几个月前，红色石头发文介绍过一份在 GitHub 上非常火爆的项目，名为：DeepLearning-500-questions，中文译名：深度学习 500 问。作者是川大的一名优秀毕业生谈继勇。该项目以深度学习面试问答形式，收集了 500 个问题和答案。内容涉及了常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题。

该热门项目一直在不断更新，作者本着开源精神，不断有新的贡献者在完善项目。如今，全书已达 50 余万字，分为 18 个章节。

首先，直接放上项目地址：

[https://github.com/scutan90/DeepLearning-500-questions][https_github.com_scutan90_DeepLearning-500-questions]

目前该项目已有 2.6w stars 了！只要是内容都是干货，超全！

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZm1EaWNQcUNVS0ltNDhFQkZHc21pYW5jbkE0RG1aaWNCazM4Vk1WamFvRjBBR1U5ZHhLSkF4bFdZQS82NDA][]

下面，我们来看一看该项目有哪些硬核干货吧！

## 全书目录 ##

该项目更确切地说是一本深度学习面试手册，500 问，非常详细。全书共分为 18 章，近 50 万字，目录如下：

*  数学基础
 *  机器学习基础
 *  深度学习基础
 *  经典网络
 *  卷积神经网络（CNN）
 *  循环神经网络（RNN）
 *  生成对抗网络（GAN）
 *  目标检测
 *  图像分割
 *  强化学习
 *  迁移学习
 *  网络搭建及训练
 *  优化算法
 *  超参数调试
 *  GPU 和框架选型
 *  自然语言处理（NLP）
 *  模型压缩、加速及移动端部署
 *  后端架构选型、离线及实时计算

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZlVaQTc3SkNHdTc5Tm11YnVxanJPREZCbTNNY3dGVUk1ZWQxZDFwcDBrekl4TG5JR2ZCMUZOQS82NDA][]

## 主要内容 ##

全书内容非常丰富，持续更新和完善中。下面我们列举一些知识点给读者一睹为快！

**1. 各种常见算法（第 2 章）**

日常使用机器学习的任务中，我们经常会遇见各种算法，如下图所示。

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZkUzWTBOc0tZMUQyYmZNbDdYSkdEaWJrUUZjblNKQlFkaWJlQVpiTTh4VlpvN3I2UzJRcHpST1dBLzY0MA][]

**2. 支持向量机（第 2 章）**

支持向量：在求解的过程中，会发现只根据部分数据就可以确定分类器，这些数据称为支持向量。

支持向量机（Support Vector Machine，SVM）：其含义是通过支持向量运算的分类器。

在一个二维环境中，其中点R，S，G点和其它靠近中间黑线的点可以看作为支持向量，它们可以决定分类器，即黑线的具体参数。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly93aXphcmQuYmxvZy5jc2RuLm5ldA_size_16_color_FFFFFF_t_70][]

支持向量机是一种二分类模型，它的目的是寻找一个超平面来对样本进行分割，分割的原则是边界最大化，最终转化为一个凸二次规划问题来求解。

**3. 常用的神经网络结构（第 3 章）**

下图包含了大部分常用的模型：

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmxpYzUwZmZ5alpvdHppYk9yYjU1eWQ2Ukh6MzdJMXVDd3lsS2VPRzFZdkNIUVJjMjdXYlFyYm9RLzY0MA][]

**4. 多分类 Softmax（第 3 章）**

下图包含了 Softmax 层的详细过程和推导：

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmJ2UEpMN0k2YUxUTU5EbmNTaWFnY2tXVHhYeXRsRXFMS2VRc1h3WVlpYjFiampyUlZPV3h4Q3JRLzY0MA][]

**5. 经典网络结构（第 4 章）**

本章主要介绍几个具有代表性的神经网络模型。

**LeNet-5**

LeNet-5 模型是 Yann LeCun 于 1998 年提出来的，它是第一个成功应用于数字识别问题的卷积神经网络。在 MNIST 数据中，它的准确率达到大约 99.2%。典型的 LeNet-5 结构包含卷积层、池化层和全连接层，顺序一般是：卷积层->池化层->卷积层->池化层->全连接层->全连接层->输出层。

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZnJpY2lhU0FodjBEVkl0THhyTG1hNkFOc0U1cTFCaWI5NURWc3o3N3p4eWYwZEJUaFJrd1o0anZCUS82NDA][]

同时给出了 LeNet-5 的网络参数配置：

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmZmaWFKaWJsWWhNaWFRalBTQm1PdGhUQktVd3NGWTZBaWIwbnlSbEtWWW9SVUppY1Z0VWdIRHMzSjB3LzY0MA][]

**AlexNet**

AlexNet 是 2012 年 ImageNet 竞赛冠军获得者 Hinton 和他的学生 Alex Krizhevsky 设计的。AlexNet 可以直接对彩色的大图片进行处理，对于传统的机器学习分类算法而言，它的性能相当的出色。AlexNet 是由 5 个卷积层和 3 个全连接层组成，顺序一般是：卷积层->池化层->卷积层->池化层->卷积层->卷积层->卷积层->池化层->全连接层->全连接层->输出层。

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmdtdm1TVHRucHR2SVBuVmt6aWM1T2d5d05JT0owbzNtT1Z5aEE5MEZPeHZMM0N2bXhTSDdjemcvNjQw][]

AlexNet 的网络参数配置：

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmttbkJ4VEU4NHZpYllsaGZXeldqc0tsVWtSc25TWmFnNjNrSUoyZGhiZ0h5eVIzdEs4Wkl1VWcvNjQw][]

**6. 全连接、局部连接、全卷积与局部卷积（第 5 章）**

全连接、局部连接、全卷积与局部卷积的对比和解释如下：

![aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZllTOWVadmRmb1JYN2xVVWVBYWZlVWJvbUFmSlhKd0txeGliYXFDNW9JN0E4a0FoS3NaQ3ZCZncvNjQw][]

## 评价 ##

整个项目包含的内容非常多，这里就不再赘述。干货很硬，大家不要错过了这份资源。

总的来说，这份资源不是一本深度学习的系统教材，而是一份完整的、详细的深度学习知识点精炼手册。对于面试、自我测验来说非常有帮助！一句话：硬核干货，值得收藏！

[Datawhale]: https://mp.weixin.qq.com/s?timestamp=1563169929&src=3&ver=1&signature=sc-TUUJ9Xj9U0El1VTXu-8SMMvAZVBE*YlCpzJA-9dI0cxoiM4ss2iJTYy9PIIH6hz3nnieSZN-4A5*Jh-0khL80fQvUEipqVghTYH41t3Pn-A77BCK-javPjL4or25KRaZ2lhi*-AlfmwGN8pn0P84cHWyTbIOoPHO9-JzG4Dc=
[https_github.com_scutan90_DeepLearning-500-questions]: https://github.com/scutan90/DeepLearning-500-questions
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZm1EaWNQcUNVS0ltNDhFQkZHc21pYW5jbkE0RG1aaWNCazM4Vk1WamFvRjBBR1U5ZHhLSkF4bFdZQS82NDA]: /images/20211209/fcfe38ee5c614ed2abbfc049364fb00b.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZlVaQTc3SkNHdTc5Tm11YnVxanJPREZCbTNNY3dGVUk1ZWQxZDFwcDBrekl4TG5JR2ZCMUZOQS82NDA]: /images/20211209/d71e0d96512d4ac3a04579d4938439e5.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZkUzWTBOc0tZMUQyYmZNbDdYSkdEaWJrUUZjblNKQlFkaWJlQVpiTTh4VlpvN3I2UzJRcHpST1dBLzY0MA]: /images/20211209/13e24e769cb5465fb5674bdcaa284327.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly93aXphcmQuYmxvZy5jc2RuLm5ldA_size_16_color_FFFFFF_t_70]: /images/20211209/d5a5c8e2b31649ef8804298d1b92cb98.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmxpYzUwZmZ5alpvdHppYk9yYjU1eWQ2Ukh6MzdJMXVDd3lsS2VPRzFZdkNIUVJjMjdXYlFyYm9RLzY0MA]: /images/20211209/75455379b4584278ae184c6fd0ac544a.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmJ2UEpMN0k2YUxUTU5EbmNTaWFnY2tXVHhYeXRsRXFMS2VRc1h3WVlpYjFiampyUlZPV3h4Q3JRLzY0MA]: /images/20211209/6526387fa2304931904d8252349eb105.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZnJpY2lhU0FodjBEVkl0THhyTG1hNkFOc0U1cTFCaWI5NURWc3o3N3p4eWYwZEJUaFJrd1o0anZCUS82NDA]: /images/20211209/9c8d6f573c7f43a081348f5af1a9c022.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmZmaWFKaWJsWWhNaWFRalBTQm1PdGhUQktVd3NGWTZBaWIwbnlSbEtWWW9SVUppY1Z0VWdIRHMzSjB3LzY0MA]: /images/20211209/c5a31a6f22584c9e9f1bfac031db9701.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmdtdm1TVHRucHR2SVBuVmt6aWM1T2d5d05JT0owbzNtT1Z5aEE5MEZPeHZMM0N2bXhTSDdjemcvNjQw]: /images/20211209/a5640130553b490192f5d29d634d6cc2.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZmttbkJ4VEU4NHZpYllsaGZXeldqc0tsVWtSc25TWmFnNjNrSUoyZGhiZ0h5eVIzdEs4Wkl1VWcvNjQw]: /images/20211209/637056e3e8b8494b853f37e5fa6ea735.png
[aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9oZmxXUkJSU0VaNFBteFJZUFBrTXFlUzZuUmpmQ2doZllTOWVadmRmb1JYN2xVVWVBYWZlVWJvbUFmSlhKd0txeGliYXFDNW9JN0E4a0FoS3NaQ3ZCZncvNjQw]: /images/20211209/101a23ef840a426bb7478ea3b1e6326c.png