对于这个简单的数据集，TensorFlow 的 dynamic_rnn 的参数是什么？答案

【问题标题】：What are the parameters of TensorFlow's dynamic_rnn for this simple data set?对于这个简单的数据集，TensorFlow 的 dynamic_rnn 的参数是什么？
【发布时间】：2016-07-21 01:35:38
【问题描述】：

我想使用 TensorFlow 训练一个 RNN 语言模型。

我的训练数据是一个由 5 个标记组成的序列，用整数表示

 x = [0, 1, 2, 3, 4]

我希望 RNN 的展开长度为 4，训练批次大小为 2。（我选择这些值是为了需要填充。）

每个令牌都有一个长度为 3 的嵌入

 0 -> [0, 0 ,0]
 1 -> [10, 10, 10]
 2 -> [20, 20, 20]
 3 -> [30, 30, 30]
 4 -> [40, 40, 40]

我应该将什么作为参数传递给tf.nn.dynamic_rnn？

这主要是"How is the input tensor for TensorFlow's tf.nn.dynamic_rnn operator structured?" 的转贴。 Eugene Brevdo 对此很有帮助。但是他稍微误解了我的问题，因为我没有足够的 TensorFlow 知识来清楚地提出这个问题。（具体来说，他认为我的意思是批量大小为 1。）与其通过编辑原始问题来冒额外的混淆，我认为如果我在这里重新表述它是最清楚的。

我正在尝试通过写Example TensorFlow RNN Language Model 为自己解决这个问题。

【问题讨论】：

标签： tensorflow recurrent-neural-network

【解决方案1】：

大多数 rnn 单元需要浮点输入，因此您应该首先对整数张量进行嵌入查找，以从分类值到字典/嵌入中的浮点向量。我相信函数是 tf.nn.embedding_lookup。其输出应该是 3 张量形状的批次 x 时间 x 嵌入深度（在您的情况下，嵌入深度为 3）

您可以输入 embedding_lookup 一个整数张量形状的 batch_size x 时间。

【讨论】：