学习笔记,自liuyubobo老师,慕课网

**

线性回归算法

**

0 目录结构

AI算法--2.线性回归算法

1.1 一类机器学习算法的基本思路

线性回归使用最佳的拟合直线(也就是回归线)在因变量(Y)和一个或多个自变量(X)之间建立一种关系。用一个方程式来表示它,即Y=a+b*X + e,其中a表示截距,b表示直线的斜率,e是误差项。这个方程可以根据给定的预测变量(s)来预测目标变量的值。

损失函数最小
AI算法--2.线性回归算法

1.2 简单的线性回归求解

AI算法--2.线性回归算法
AI算法--2.线性回归算法
有了 a 和 b 的值后,可以预测回归问题(x == 6):
AI算法--2.线性回归算法

1.3 衡量线性回归法的指标

测试数据,通过模型计算结果和预测结果进行比较,但是和容量m相关
AI算法--2.线性回归算法
1.3.1 MSE
改进,取1/m,就引入了下面的均方误差MSE:
AI算法--2.线性回归算法
1.3.2 RMSE
但是量纲不一样,有平方,所以引入开一个根号 -> RMSE 均方根误差(Root Mean Suqared Error)
AI算法--2.线性回归算法
1.3.3 MAE
另一个评测标准:
AI算法--2.线性回归算法
1.3.4 R Squared
R-Squared R方误差估计
AI算法--2.线性回归算法
R方值的含义:
AI算法--2.线性回归算法
R方还可以表示为:
AI算法--2.线性回归算法

1.4 多元线性回归

AI算法--2.线性回归算法
目标函数:
AI算法--2.线性回归算法
为了实现向量化计算,将西塔右边加了一个恒等于1的数。
AI算法--2.线性回归算法
从而将数值计算,转化为矩阵计算。
AI算法--2.线性回归算法

1.5 线性回归总结

AI算法--2.线性回归算法
AI算法--2.线性回归算法
AI算法--2.线性回归算法

相关文章: