【问题标题】:Pretraining Deep Learning Model for Weight Initialization权重初始化的预训练深度学习模型
【发布时间】:2020-10-27 09:53:38
【问题描述】:

在预训练深度学习模型(比如说一个深度卷积神经网络)以实现良好的权重初始化时,我是使用整个训练集而不进行验证(以避免信息泄漏)还是只使用训练集的子集?

【问题讨论】:

    标签: machine-learning deep-learning computer-vision


    【解决方案1】:

    如果您想在对数据集进行训练后对网络进行微调,则可以使用相同的数据集(确保训练/测试和验证集中的数据不会切换)。作为“预训练”,您还可以下载一个已经在与您的数据集/问题相似的数据集/问题上训练过的模型,然后在您的数据集上对其进行训练。这被称为迁移学习,适用于类似的问题,但当然这两个问题之间的差距越大,您需要训练的越多。

    结论:只要验证集对网络隐藏,您就可以使用任何数据集。

    【讨论】:

      【解决方案2】:

      我认为如果我们将数据集分为训练、验证和测试数据,它会更有用。保留一个全新的测试数据并仅使用验证数据验证模型是一个不错的选择。应使用整个训练数据进行训练。

      【讨论】:

        猜你喜欢
        • 2018-01-13
        • 2021-06-08
        • 1970-01-01
        • 2020-11-10
        • 2019-10-20
        • 2021-05-05
        • 1970-01-01
        • 1970-01-01
        • 2019-11-30
        相关资源
        最近更新 更多