【问题标题】:In tensorflow,does embedding matrix remain unchanged?在张量流中,嵌入矩阵是否保持不变?
【发布时间】:2017-04-18 22:56:51
【问题描述】:


在tensorflow中,我们可能会看到这些代码。


embeddings=tf.Variable(tf.random_uniform([vocabulary_size,embedding_size],-1.0,1.0))
embed=tf.nn.embedding_lookup(embeddings,train_inputs)


tensorflow在训练时,embedding矩阵是否保持不变?
在一篇博客中,说嵌入矩阵可以更新。不知道它是如何工作的。非常感谢!

【问题讨论】:

    标签: python tensorflow deep-learning


    【解决方案1】:

    嵌入矩阵类似于任何其他变量。如果您将可训练标志设置为 True,它将对其进行训练(请参阅 tf.Variable)

    【讨论】:

    • 我想知道训练embedding matrix的结果和word2vec差不多?训练embedding matrix和skip-gram model有什么区别?在我看来,training embedding matrix可能会过拟合。谢谢为您的帮助!
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-05-24
    • 2018-06-09
    • 1970-01-01
    • 2023-03-20
    • 1970-01-01
    • 2016-06-16
    • 2018-11-01
    相关资源
    最近更新 更多