在 Pytorch 中实现课程 Dropout答案

【问题标题】：Implementing Curriculum Dropout in Pytorch在 Pytorch 中实现课程 Dropout
【发布时间】：2019-01-29 07:33:55
【问题描述】：

有没有人可以帮我实现 Pytorch 的 Curriculum Dropout。提前致谢，任何形式的帮助都将不胜感激。

我想在 Pytorch 中做一些 Curriculum Dropout 的实验。课程辍学尝试使用时间调度来调整神经网络中的辍学率。相关论文可以从here下载。 python中的源代码可以找到here

【问题讨论】：

标签： pytorch

【解决方案1】：

我快速浏览了这篇论文，似乎主要思想是使用预定的辍学率而不是固定的辍学率。

Torch 已经有一个 Dropout 模块：torch.nn.modules.dropout.Dropout。

对于使用 Dropout 模块 dropout 的自定义神经网络，您只需在优化步骤之间修改 dropout.p 即可安排 dropout 率。

【讨论】：

感谢您的帮助。我真的是 pytorch 的新手并开始享受它。我需要在会议截止日期前的短时间内做这些实验。如果不需要您花费太多时间，请您帮我编写一个自定义的 dropout 模块。 :)
@zongjie 这个答案的重点是：你确实不需要需要编写一个自定义模块，你只需要你的训练代码来调整dropout.p rate 作为训练进度的函数。