逻辑回归（含推导）

逻辑回归（logistic）

1、L就是用sigmod函数

2、损失函数为：

逻辑回归的损失函数与线性回归相似，就是多了sigmoid函数，将概率映射到0-1之间。

再用极大似然思想，将L（θ）函数最大化。

 

然后梯度上升，将函数达到最大化

与吴恩达版本不同的是前面多一个负号，把上升变成我们熟悉的梯度下降。

 

那么逻辑回归的优缺点：

 

那么我们遇到多分类怎么办，我们可以选择softmax回归：

我们可以通过softmat的公式求出每一个分类的概率，然后取它最大概率的为它的分类结果。