【发布时间】:2020-07-12 18:32:07
【问题描述】:
我到处搜索这个主题,但找不到我正在寻找的确切解决方案。所以,我仍然对反向传播和递归神经网络这两个术语感到困惑。我读过在前馈神经网络步骤之后使用反向传播来更新权重。那么,递归神经网络是如何使用的呢?
【问题讨论】:
标签: neural-network recurrent-neural-network backpropagation
我到处搜索这个主题,但找不到我正在寻找的确切解决方案。所以,我仍然对反向传播和递归神经网络这两个术语感到困惑。我读过在前馈神经网络步骤之后使用反向传播来更新权重。那么,递归神经网络是如何使用的呢?
【问题讨论】:
标签: neural-network recurrent-neural-network backpropagation
Back-propagation 是一种用于计算神经网络中参数梯度的算法。出于算法的目的,我们将计算想象为通过有向无环图的过程,其中叶子是参数和输入,节点的内部节点是操作。然后,对导数应用链式法则对应于这种图中的后向传递。该算法普遍适用于任何神经网络(前馈、循环或卷积)。
Recurrent neural networks 是一种神经网络,它循环地将相同的函数应用于其隐藏状态和序列中的新输入。 RNN的计算也可以描述为计算图,因此反向传播算法也可以用于估计其参数的梯度。
【讨论】: