今天主要讲了一下平方误差代价函数(翻译不一定准确)与梯度下降算法。

平方误差代价函数和梯度下降算法可以用来解决回归问题。

平方误差代价函数:
了解机器学习2
这个函数的作用就是将一个数据集拟合成一条直线。
了解机器学习2

不断的选择θ0和θ1带入到hθ(x)中,并通过J(θ0,θ1)与真实的数据相比较得到代价函数的图像。例如:
了解机器学习2

平方误差代价函数的目的是找到最小的J(θ0,θ1),所以从这个案例中可以看出当θ1等于1时,hθ(x)是最接近符合所对应的数据集的函数。

梯度下降算法:
了解机器学习2

α是学习效率,在梯度下降算法中多个变量需要同步更新。对于阿尔法,太小的话,需要很多次才能到达局部最优点,太大的话,将会越过局部最优点。当最初的变量不同时找到的局部最优点可能不一样,上图中方框所圈住的部分是偏导项,所以当到达局部最优点是偏导为0,则θj不会变化。如图:
了解机器学习2

θ1就是局部最优点
了解机器学习2

相关文章:

  • 2021-07-18
  • 2021-04-12
  • 2021-12-19
  • 2021-09-11
  • 2022-12-23
  • 2021-08-14
  • 2021-07-17
  • 2022-12-23
猜你喜欢
  • 2021-08-31
  • 2021-12-09
  • 2021-06-01
  • 2021-09-29
  • 2021-08-25
  • 2021-11-06
相关资源
相似解决方案