TensorFlow 实现 Seq2seq 情感分析

Question

我目前正在使用 Tensorflow Seq2seq 模型，尝试实现情感分析。我的想法是为编码器提供 IMDB 评论，为解码器提供 [Pad] 或 [Go]，为目标提供 [neg]/[pos]。我的大部分代码与 seq2seq 翻译的示例非常相似。但是我得到的结果很奇怪。对于每个批次，结果要么全为 [neg]，要么全为 [pos]。

“编码器输入：我几乎立刻就被迷住了。[pad][pad][pad]”

“解码器输入：[pad]”

“目标：[位置]”

由于这个结果非常特殊，我想知道是否有人知道会导致这种情况的原因是什么？

Answer 1

我建议尝试使用更简单的架构 - 输入逻辑分类器的 RNN 或 CNN 编码器。这种架构在情感分析（亚马逊评论、yelp 评论等）方面显示出非常好的结果。

对于此类模型的示例，您可以see here - 单词和字符的各种编码器（LSTM 或卷积）。