关于logistic回归的一点总结

Logistic回归的本质

• 是对数几率(logit)的线性回归，logit=log(y1−y)$logit=log(\frac{y}{1-y})$，并不是概率，但是表示一种和概率类似的相关性，比如logit越大，则y越接近于1.

逻辑回归本身到底是线性还是非线性的

• 本身是个非线性模型，因为y=g(z),g是非线性的sigmoid函数，但是假设函数hypothesis是关于x线性的，做的计算其实是log(y1−y)=wx+b$log(\frac{y}{1-y})=wx+b$，是一种线性拟合。

• 这里讲到的线性，是说模型关于系数θ,x$\theta ,x$一定是线性形式的

如果分类平面本身就是线性的，那么逻辑回归关于特征变量x，以及关于系数θ$\theta$都是线性的
如果分类平面是非线性的，例如x21+x2=0$x_1^2+x_2=0$，那么逻辑斯蒂回归关于变量x是非线性的，但是关于参数θ$\theta$仍然是线性的,无非是做了变形

那他如何实现非线性的决策边界的呢？

通过构造特征的非线性关系，特征的多项式。