前言

学以致用,以学促用,通过笔记总结,巩固学习成果,复习新学的概念。
目录

文章

正文

本节学习内容主要为多元线性回归

模型引入

吴恩达 coursera ML 第四课总结+作业答案引入问题,上次那个一元线性回归模型还是过于简略,并不符合实际情况,毕竟实际上我们买房的时候会考虑,楼层啊,地段等等之类的因素,而不是只考虑面积这一个因素。
吴恩达 coursera ML 第四课总结+作业答案多元回归的模型,为了方便之后的计算,对特征新增一项x0=1x_0=1

多元梯度下降

吴恩达 coursera ML 第四课总结+作业答案为了方便公式的推导,我们将θ0...θn\theta_0...\theta_n简化为θ\theta.
吴恩达 coursera ML 第四课总结+作业答案多元梯度回归相比于之前的变化,以及具体实现的细节。

技巧1 特征压缩

吴恩达 coursera ML 第四课总结+作业答案因为,每个特征的原始尺度不同,因此,需要对其进行压缩,以方便后面的学习算法对其进行学习。
吴恩达 coursera ML 第四课总结+作业答案特征压缩第一步,让每个特征的范围为[-1,1]

吴恩达 coursera ML 第四课总结+作业答案
特征压缩第二步,让每个特征的均值为0.

梯度下降2:学习率

吴恩达 coursera ML 第四课总结+作业答案梯度下降算法的细节2,学习率对梯度算法的影响。
吴恩达 coursera ML 第四课总结+作业答案如何确认梯度下降算法是否正常工作?通过画出每一步误差函数的变化确认,算法工作正常。
吴恩达 coursera ML 第四课总结+作业答案学习率的大小对梯度算法运行的影响。
吴恩达 coursera ML 第四课总结+作业答案这里总结了学习率的影响,以及如何选择学习率。

多项式回归

吴恩达 coursera ML 第四课总结+作业答案只有一个原始数据,也可以通过对它取各次幂变成多元回归。

吴恩达 coursera ML 第四课总结+作业答案梯度下降只是一种解决方法,还可以用正规方程获得解析解。
吴恩达 coursera ML 第四课总结+作业答案迭代求解方法。
吴恩达 coursera ML 第四课总结+作业答案使用正规方程求解的例子

吴恩达 coursera ML 第四课总结+作业答案正规方程和梯度下降求解的比较。

补充内容

吴恩达 coursera ML 第四课总结+作业答案正规方程求解的问题,如果矩阵不可逆?
吴恩达 coursera ML 第四课总结+作业答案矩阵不可逆的原因。

作业答案

多元和单元的写在一块儿的,参见第二周:线性回归

相关文章: