【问题标题】:How word2vec output vectors are used to compute the similarities?word2vec 输出向量如何用于计算相似度?
【发布时间】:2017-05-12 22:55:12
【问题描述】:

我对 word2vec 输出向量的解释有点困惑! 如果我想预测最可能出现在特定单词(w1)之后的单词,我可以使用最接近 w1 的单词吗? 我的意思是,与 w1 距离最短的单词可以解释为概率最高的下一个单词?

【问题讨论】:

  • 你能告诉我们你的尝试吗?

标签: nlp distance similarity word2vec


【解决方案1】:

如果我想预测最可能出现在特定单词(w1)之后的单词,

这称为语言建模

我可以使用最接近 w1 的单词吗? 我的意思是,与 w1 距离最短的单词可以解释为下一个概率最高的单词?

否:最接近 w1 的词是语义上最接近 w1 的词。

【讨论】:

  • 谢谢。 PMI怎么样?能否反映预期的亲密度?
  • 它不是概率输出(关节等),因此没有指向 PMI 的链接。
  • 感谢您的回答。我发现一篇论文描述了移位 PMI 和 SGNS 之间的等价性。 “作为隐式矩阵分解的神经词嵌入”,O. Levy,Y. Golberg,NIPS'14
猜你喜欢
  • 2017-05-28
  • 1970-01-01
  • 1970-01-01
  • 2020-11-02
  • 2010-10-05
  • 2021-07-10
  • 2014-03-25
  • 2017-07-05
  • 2014-04-03
相关资源
最近更新 更多