把学习过程中的一些算法推导贴出来：
线性回归：
1. 一般的线性回归
2. 防止过拟合与使得参数尽量平稳
L1正规：岭回归，Ridge
L2正则：lasso
L1+L2正规：Elastic Net
3.解决二分类问题，线性回归之logistic回归，与上述回归的区别，上述回归给出了模型，给出了目标函数，也可以用直接求解与梯度下降算出对应的参数。但是logistic加入了sigmoid,将线性转化成非线性，也便于梯度下降算法的使用
4.softmax解决多分类问题
相关文章：