用于文本分类的基于注意力的循环神经网络

Question

是否有任何基于注意力的 RNN 用于文本分类的实现？ （在theano，Karas，....）？我发现了这个模型的一些实现，但它们更常用于文本生成目的。

Answer 1

您可以结合以下信息：

https://github.com/Microsoft/CNTK/wiki/Implement-an-attention-mechanism

并应用于此处解释的令牌分类模型：

https://github.com/Microsoft/CNTK/blob/master/Tutorials/CNTK_202_Language_Understanding.ipynb