word2vec：如何预测最有可能的单词和句子？

Question

Google 的 Word2vec 已被证明在 NLP 任务中非常强大。我对这个工具很陌生，不清楚它到底能做什么。

假设我们有一句话：“我这个周末要去纽约。”

基于这句话，我们有很多选择来改造它。例如：

1) “这个周末我会和爸爸去纽约。”

2) “这个周末我要去洛杉矶。”

3) “这个周末我不会去纽约。”

我想从 word2vec 得到的是，给定基本句子，我如何预测它的转换之一是最有可能的转换？或者，给定一个转换，我们可以在基本句子之上计算概率。

一个额外的问题是，除了 word2vec，还有其他工具可以达到同样的目的吗？

Answer 1

您可能想查看循环网络。它们在自然语言生成中有应用。

http://deeplearning4j.org/recurrentnetwork https://karpathy.github.io/2015/05/21/rnn-effectiveness/

还可以考虑 Doc2vec，它将整个句子向量化而不是单个单词或短 n-gram，并且可以通过相似性对句子进行聚类。