【发布时间】:2020-02-14 18:32:44
【问题描述】:
我已经为输出层实现了反向传播所需的方程,但对于隐藏层,我对链式法则感到非常困惑。当隐藏层数为。越多,就越混乱。
如何化解隐藏层方程?
PS。我知道微积分
【问题讨论】:
标签: neural-network artificial-intelligence backpropagation
我已经为输出层实现了反向传播所需的方程,但对于隐藏层,我对链式法则感到非常困惑。当隐藏层数为。越多,就越混乱。
如何化解隐藏层方程?
PS。我知道微积分
【问题讨论】:
标签: neural-network artificial-intelligence backpropagation
地穴约翰,欢迎 :)
既然你说你精通微积分,并且已经完成了输出层反向传播,那么一旦你学习了记忆化,你就会很容易。
每个隐藏层都有前一层的误差。对隐藏层的一个权重应用链式法则。让我为您发布方程式。
在上图中,您可以看到差异化流程如下: 1. 错误/Sigmoid_Output 2. Sigmoid_Output/ Dot_Product 3. Dot_Product/ Sigmoid_Hidden 4. Sigmoid_Hidden/ Dot_Product_Hidden 5. Dot_Product_Hidden/你的体重!!!
前两个步骤来自输出层的链式法则。 因此,您不必一次又一次地计算第一个和第二个结果。
类似地,对于另一个隐藏层,前一层的一阶和二阶导数将相同。这称为记忆。
查看此网页: 访问https://www.hellocodings.com/2019/10/step-by-step-back-propagation.html
问候
【讨论】: