Coursera学习笔记Week2

• Multivariate Linear Regression多元线性回归

• 多元方程定义基本介绍

之前一直没搞清楚变量x上标i的含义，现在知道了是表示第i个样本的内容，x的下标则是表示该样本的第几个变量。

• 用梯度下降法解决多元线性回归问题

θ的更新公式

• 梯度下降中用到的一些技巧
• 特征缩放

目的是确保不同的特征取值在一个相近的范围内，如果不同特征取值差距较大，会使梯度下降的时间较长，调整方法是将特征值除以最大值。通常范围在（-1,1），因为x0=1，并且范围过大过小都不好。

• 均值归一

μ是x的均值，s是x的极差

• 对梯度下降中学习速率α的探讨

通过绘出迭代次数和代价函数取值的图像，可以发现斜率可大致作为α大小的衡量标准。

如果α过小的话会使代价函数下降速度过慢，如果α过大的话可能在很少的迭代次数内代价函数就下降找到最优解或者直接越过了最优解。

• 根据情况选择合适的变量作为特征值

• 求θ的两种方法以及它们的联系和区别

• 正规方程法

对于正规方程法中X’*X不可逆的情况：进行正则化，观察所有的特征是否有多余的特征值，如果有多余的就删掉（自己对这里也不是很了解，还是把原英文版的也贴上来）