序列模型(4)----门控循环单元(GRU)

其中, rt表示重置门,zt表示更新门。

  • 重置门决定是否将之前的状态忘记。(作用相当于合并了 LSTM 中的遗忘门和传入门)

当rt趋于0的时候,前一个时刻的状态信息ht−1会被忘掉,隐藏状态h^t会被重置为当前输入的信息。

  • 更新门决定是否要将隐藏状态更新为新的状态h^t(作用相当于 LSTM 中的输出门) 。

序列模型(4)----门控循环单元(GRU)

 

 

序列模型(4)----门控循环单元(GRU)

序列模型(4)----门控循环单元(GRU)

二、GRU的优点:解决梯度消失的问题

 

相关文章:

  • 2021-10-23
  • 2021-12-18
  • 2021-06-12
  • 2021-04-25
  • 2021-07-19
猜你喜欢
  • 2021-10-02
  • 2021-10-03
  • 2021-06-07
  • 2022-01-13
  • 2022-12-23
  • 2021-06-23
  • 2021-04-10
相关资源
相似解决方案