为了更好地表示句子的内在含义,本文提出了一种 self-attention mechanism , 可以从 r(超参数)个方面刻画句子的特性。不同于其他的使用attention的任务,本文只有一个input,对该句子进行 self-attention

[ICLR2017]A Structured Self-attentive Sentence Embedding

模型由两部分组成(1)bilstm
[ICLR2017]A Structured Self-attentive Sentence Embedding , H 的矩阵大小是n*2u
(2) self-attention mechanism
attention的矩阵A的求解过程是上面图1的右半部分,每个参数的大小以及解释在下面
[ICLR2017]A Structured Self-attentive Sentence Embedding

相关文章:

  • 2021-12-29
  • 2021-11-22
  • 2021-10-30
  • 2021-04-10
  • 2021-05-03
  • 2021-04-13
  • 2021-11-02
  • 2021-12-16
猜你喜欢
  • 2021-05-17
  • 2021-10-01
  • 2021-08-26
  • 2021-07-17
  • 2021-10-02
  • 2021-04-21
  • 2021-06-27
相关资源
相似解决方案