反向传播算法中的局部最小值

Question

添加一个称为比例因子的额外项会降低反向传播算法的收敛性。 那么如何避免反向传播算法中的局部最小值。

Answer 1

在局部最小值中，误差函数的梯度是零向量 - 因此使用梯度的反向传播 - 无法进一步移动您的参数并完成训练。