这种costfunction时由极大似然法得出。
需最小化新的cost function

最大似然估计的目的就是:利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。

首先我们来看看Logistic回归的代价函数:

简化代价函数与梯度下降

上面y=1和y=0的代价函数是不同的表达式,我们将其化简合并为同一个表达式:

约定y只能去取0或1.
现将cost的两种情况合并为一种。
使用自锁,将二者分别乘一个系数再相加,以令y取一个值时,另一项为0.

简化代价函数与梯度下降

化简后的代价函数:

简化代价函数与梯度下降

我们再化简梯度下降算法:

简化代价函数与梯度下降

 

简化代价函数与梯度下降

使用梯度下降法,求偏导数。
结果看似与线性回归相同,但是由于h变成了sigmoid函数,所欲实质不同。

简化代价函数与梯度下降线性回归的假设函数是蓝色的表达式,Logistic回归的假设函数是红色的表达式。

相关文章:

  • 2021-05-21
  • 2021-08-13
  • 2021-06-25
  • 2022-12-23
  • 2021-11-11
  • 2021-10-18
  • 2021-07-14
  • 2021-12-22
猜你喜欢
  • 2021-04-29
  • 2021-10-16
  • 2021-10-24
  • 2022-12-23
  • 2021-05-04
  • 2021-04-27
  • 2021-05-20
相关资源
相似解决方案