第一次作业：深度学习基础

比眉伴天荒 2022-09-10 05:26 156阅读 0赞

## 一、专知《深度学习：算法到实战》 ##

[1.深度学习：算法到实践（一）绪论][1.]

[2.深度学习：算法到实践（二）神经网络基础][2.]

## 二、李沐《动手学深度学习在线课程》 ##

本周课程学习为预备知识部分，[详细的文档可点击查看。][Link 1]主要包括以下七个小部分。

##### 1.数据操作 #####

*  主要就是了解张量，它提供了各种功能，包括基本数学运算、广播、索引、切片、内存节省和转换其他Python对象。

##### 2.数据预处理 #####

*  了解pandas的使用，对于数据进行简单的处理，针对于缺失值的处理，典型的方法包括插值和删除。最后，将pandas处理的数据转化成张量格式。

##### 3.线性代数 #####

*  标量、向量、矩阵和张量的理解，以及对标量、向量、矩阵和张量执行各种操作。
 *  数据降维，在axis = 0, 1, 2，如果不想实现降维，仍保存原维度，可以添加keepdims=True。
 *  区分矩阵乘法与[哈达玛积][Link 2]。
 *  范数，包括 L 1 ， L 2 L\_1，L\_2 L1，L2，弗罗贝尼乌斯范数（Frobenius norm），以及 L p L\_p Lp范数。

##### 4.微分 #####

*  导数，微分，偏导数，[梯度][Link 3]的理解，以及对于可视化库matplotlib的使用。

##### 5.自动求导 #####

*  深度学习框架可以自动计算导数。自动求导使系统能够随后[反向传播][Link 4]梯度，注意梯度清零。
 *  为什么求导的时候要进行这个sum操作，x.sum()。答：梯度只能为标量（即一个数）输出隐式地创建。

##### 6.概率 #####

*  学习联合分布、条件分布、[Bayes定理][Bayes]、边缘化和独立性假设，以及期望和方差。

##### 7.查阅文档 #####

*  如何查找理解PyTorch函数和类。

## 三、总结 ##

本周的学习主要就是对于深度学习了解，以及pytorch基础代码的练习。我认为在基础代码练习部分，容易出错的地方，便是广播机制的应用。

[1.]: https://blog.csdn.net/qs17809259715/article/details/115523010?spm=1001.2014.3001.5501
[2.]: https://blog.csdn.net/qs17809259715/article/details/115526199?spm=1001.2014.3001.5501
[Link 1]: https://zh-v2.d2l.ai/chapter_preliminaries/index.html
[Link 2]: https://zhuanlan.zhihu.com/p/161464118
[Link 3]: https://www.cnblogs.com/wangguchangqing/p/10521330.html
[Link 4]: https://blog.csdn.net/qs17809259715/article/details/101148456?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163082899116780265466808%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=163082899116780265466808&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_v2~rank_v29-1-101148456.pc_v2_rank_blog_default&utm_term=%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD&spm=1018.2226.3001.4450
[Bayes]: https://blog.csdn.net/qs17809259715/article/details/96153630?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522163082909216780261987976%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=163082909216780261987976&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_v2~rank_v29-1-96153630.pc_v2_rank_blog_default&utm_term=%E8%B4%9D%E5%8F%B6%E6%96%AF&spm=1018.2226.3001.4450