训练保持概率为 1 的神经网络与训练没有丢失的神经网络相同吗？

Question

这似乎是一个更具理论性的问题，我希望有人知道答案，我使用 tensorflow 训练一个完全连接的深度神经网络，我将 dropout 应用于我的隐藏层并在某些情况下调查 dropout。

我知道 dropout 仅适用于输入层和隐藏层，对于网络的评估，保持概率应为 1.0。对于我想在不丢失的情况下训练我的网络的情况......我可以在隐藏层上将保持概率设置为 1 进行训练，还是我必须从我的源代码中完全删除它？

问候

Answer 1

您可以保持代码不变，1.0 的保持概率确实等于没有丢失，因为每个激活都被保留。