【问题标题】:How does back propagation work for for multiple hidden networks?反向传播如何适用于多个隐藏网络?
【发布时间】:2020-02-14 18:32:44
【问题描述】:

我已经为输出层实现了反向传播所需的方程,但对于隐藏层,我对链式法则感到非常困惑。当隐藏层数为。越多,就越混乱。

如何化解隐藏层方程?

PS。我知道微积分

【问题讨论】:

    标签: neural-network artificial-intelligence backpropagation


    【解决方案1】:

    地穴约翰,欢迎 :)

    既然你说你精通微积分,并且已经完成了输出层反向传播,那么一旦你学习了记忆化,你就会很容易。

    每个隐藏层都有前一层的误差。对隐藏层的一个权重应用链式法则。让我为您发布方程式。

    https://1.bp.blogspot.com/-AqNDf3KFUq8/XahC0NdsGkI/AAAAAAAAEvU/cglTGiej4-0Q-0ZYw3NKAgvanAxU6KlMgCLcBGAsYHQ/s1600/Percep.PNG

    在上图中,您可以看到差异化流程如下: 1. 错误/Sigmoid_Output 2. Sigmoid_Output/ Dot_Product 3. Dot_Product/ Sigmoid_Hidden 4. Sigmoid_Hidden/ Dot_Product_Hidden 5. Dot_Product_Hidden/你的体重!!!

    前两个步骤来自输出层的链式法则。 因此,您不必一次又一次地计算第一个和第二个结果。

    类似地,对于另一个隐藏层,前一层的一阶和二阶导数将相同。这称为记忆。

    查看此网页: 访问https://www.hellocodings.com/2019/10/step-by-step-back-propagation.html

    问候

    【讨论】:

      猜你喜欢
      • 2019-07-04
      • 2015-11-27
      • 2010-12-22
      • 1970-01-01
      • 2015-03-03
      • 2012-02-21
      • 2011-01-05
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多