反向传播图示理解

两层感知器理解反向传播

如上面所展示，对于每个结点处的前面的权重更新，其梯度等于本地梯度*上游传回来的梯度gi .
而且，反向传播传回的梯度只需要计算到倒数第二层（假如输入也算一层的话），如上图所示，只需要计算到g5,g4即可。