线性回归

欠拟合与过拟合
然后加入一点东西变成一个更好的算法为 岭回归

逻辑回归 虽然叫回归 但是是一个分类算法

模型保存与加载

无监督学习 k-means算法

201901008——线性回归 到正规方程

如何判定一个问题是一个回归问题,

确定一个目标值是一系列连续的数据

房价预测
销售额度

201901008——线性回归 到正规方程
线性回归是利用回归方程(函数)对一个或者多个自变量(特征值)和因变量(目标值)之间的关系进行建模的一种分析方式

201901008——线性回归 到正规方程

线性关系一定是线性模型
线性模型不一定是线性关系

如何找到合适的模型契合我们模型

模型中的自变量和因变量是给出的,现在想要算出权值和参数 ,也就做模型参数
使模型变得准确

不断的更新权重,使得这个模型变得更好。使真实值与预测值差距越来越小

201901008——线性回归 到正规方程
希望真实样本到预测样本距离最小

希望损失最小

201901008——线性回归 到正规方程
损失函数最小

又称为最小二乘法

优化损失
201901008——线性回归 到正规方程
优化方法都有什么
两种优化方法:正规方程,梯度下降

201901008——线性回归 到正规方程
正规方程求解慢,小数据场景还可以。需要对矩阵求逆,时间复杂度是n的三次方

相关文章: