【问题标题】:I am unable to get this gradient descent solution correct [closed]我无法正确地得到这个梯度下降解决方案[关闭]
【发布时间】:2021-01-24 15:00:00
【问题描述】:

考虑一个 N=3 和 D=1 的线性回归模型,输入-输出对如下:

yl=22, x 1=1, y2=3, x2=1, y3=3, x3=2

关于 B1(当 Bo=0 和 B1=1 时)的均方误差 (MSE) 的梯度是多少?请正确回答两位小数。

【问题讨论】:

  • 你试过什么?你已经知道了什么?你被困在哪里了?

标签: python machine-learning gradient-descent


【解决方案1】:
MSE Loss = sum((h - y) ** 2) / 2m

Gradient wrt b1 will be sum[(h - y) . x)] / m:

hypothesis: h = b0 + b1.x

for b0 = 0, b1 = 1:

h = x

input(x)        : [  1,  1,  2]

prediction(h)   : [  1,  1,  2]

Ground truth(y) : [ 22,  3,  3]

h - y           : [-21, -2, -1]

(h - y). x      : [-21, -2, -2]

gradient(b1)    : (-21 - 2 - 2) / 3 = -25 / 3 = -8.3333

 

 

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2017-03-25
    • 2018-01-10
    • 2020-07-16
    • 2021-11-13
    • 1970-01-01
    • 2016-06-13
    • 1970-01-01
    • 2022-01-15
    相关资源
    最近更新 更多