【问题标题】:Understanding RNN input for word prediction理解用于单词预测的 RNN 输入
【发布时间】:2018-03-29 13:59:30
【问题描述】:

在为 rnn tensorflow 中的单词预测模型输入输入时, 为什么我们需要一个 3d 张量? 请看下面的代码。 为什么我们需要额外的1

x = tf.placeholder("float", [None, n_input, 1])

【问题讨论】:

  • 形状不应该是:[batch_size, timesteps, num_inputs]?

标签: tensorflow lstm prediction rnn


【解决方案1】:

Emm,我猜你正在使用简单的预测模型,也许只是为了演示。我们尝试使用RNN预测模型,其基本思想是句子中的每个单词都会受到前一个词或后一个词的影响(这就是我们所说的上下文),因此我们使用句子中单词的顺序输入来表示单词随着时间的流逝,一一出现。
所以我们需要一个形状为[batch_size, words_counts, words_represent] 的张量,在你的情况下,words_countsn_input 代表time steps,而代表张量的单词words_represent 是形状(1, ) 元组。
但是,在实际实践中,我们不仅将每个单词转换为(1, ) 元组,我们还可以使用单词嵌入来创建一个单词的有意义且有用的张量表示。所以也许我猜你已经尝试了一个简单的演示,或者我可能会犯错误。

【讨论】:

    猜你喜欢
    • 2018-06-20
    • 1970-01-01
    • 2022-10-05
    • 2018-08-08
    • 1970-01-01
    • 1970-01-01
    • 2019-04-27
    • 2017-06-16
    • 2022-12-10
    相关资源
    最近更新 更多