吴恩达视频第四集 正则化

梯度下降迭代的正则化公式

梯度下降正规方程的正则化公式

其中推导过程如下

logistic回归的正则化公式

带入迭代公式得如下等式： 

 

 

注：正则化都是在损失函数J(theta)中加入一个与参数相关的量，是因为本来计算参数的方式就是让代价函数尽可能地接近0，所以如果参数过大，那么新加入的这一项就会很大，这样就不能满足要求。所以正则化的目的就是减小参数的值，这样让曲线更平滑。