首先,chain rule了解一下:
关于反向传播我听到最好的解释
C是y_和y的距离(也可以理解为损失函数)
关于反向传播我听到最好的解释
C对w求偏微分,有两部分,一部分是forward ,一部分是backward.
关于反向传播我听到最好的解释
如何计算forward pass,非常简单,就是input.
关于反向传播我听到最好的解释
举个例子:
关于反向传播我听到最好的解释
接下来看backward pass:
关于反向传播我听到最好的解释
将上图与下图对比,就可以看出backward的含义了,如果我们最最后面开始往前算,一步一步,就相当于反向传播了。
关于反向传播我听到最好的解释

关于反向传播我听到最好的解释

相关文章:

  • 2021-11-10
  • 2021-04-03
  • 2021-10-05
  • 2021-10-14
  • 2021-06-16
  • 2021-05-17
  • 2021-10-05
  • 2021-06-27
猜你喜欢
  • 2021-08-16
  • 2021-12-28
  • 2022-01-08
  • 2021-04-03
  • 2022-12-23
  • 2021-07-07
  • 2021-08-19
相关资源
相似解决方案