【问题标题】:Why don't the weights in Recurrent Neural Networks change?为什么循环神经网络中的权重不会改变?
【发布时间】:2020-09-05 15:43:56
【问题描述】:

模型如何在不改变其参数/权重的情况下学习? 如果我们在一些数据上训练 RNN,然后将其应用于测试数据,我们会做出哪些改变?因为权重/参数不会改变值吗?

【问题讨论】:

    标签: machine-learning deep-learning nlp recurrent-neural-network


    【解决方案1】:

    当我们将模型应用于测试数据时,我们根本不会对模型进行任何更改。

    在测试时(也称为推理),我们只取输入(在 RNN 的情况下,它是输入序列的当前标记,以及模型的当前记忆状态),将它们输入固定模型(也就是说,将它们乘以固定的模型权重并应用一些非线性),并获得输出(在 RNN 的情况下,它是更新的记忆状态,以及对当前令牌的预测)。根本不需要学习或改变任何东西。

    【讨论】:

      猜你喜欢
      • 2018-11-27
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-02-19
      • 2020-07-18
      • 2020-06-02
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多