BGD,SGD,MBGD

文章目录

• 批量梯度下降BGD
• 随机梯度下降SGD
• 小批量梯度下降MBGD

一般线性回归函数的假设函数为:

批量梯度下降BGD

对所有的参数求均方误差

损失函数：

随机梯度下降SGD

#更新单个参数，对单个参数求均方误差

小批量梯度下降MBGD

顾名思义。