【发布时间】：2018-02-27 15:30:27
【问题描述】：
我刚刚读完Delving Deep into Rectifiers 的论文。本文提出了一种新的激活函数，称为 PReLU。也许很明显，因为论文没有提到，但我想知道PReLU的参数'a'是什么时候更新的？是在权重更新前更新还是在权重更新后更新？还是与权重同时更新？
【问题讨论】：
标签： neural-network conv-neural-network activation-function
【发布时间】：2018-02-27 15:30:27
【问题描述】：
随着误差信号通过网络的每一层传播回来，权重都会按顺序更新。因此偏差和“a”参数都在将信号传递到下一层之前更新，因此在网络中它们下方的权重更新之前。
【讨论】：