python上带有gensim Word2Vec的不同模型

Question

我正在尝试在 python 中应用在库 gensim 中实现的 word2vec 模型。我有一个句子列表（每个句子都是一个单词列表）。

例如让我们有：

sentences=[['first','second','third','fourth']]*n

我实现了两个相同的模型：

model = gensim.models.Word2Vec(sententes, min_count=1,size=2)
model2=gensim.models.Word2Vec(sentences, min_count=1,size=2)

我意识到模型有时是相同的，有时是不同的，这取决于 n 的值。

例如，如果 n=100 我得到

print(model['first']==model2['first'])
True

同时，对于 n=1000：

print(model['first']==model2['first'])
False

这怎么可能？

非常感谢！

Answer 1

查看gensimdocumentation，运行Word2Vec时有一些随机化：

seed = 用于随机数生成器。每个单词的初始向量都使用单词 + str(seed) 连接的哈希作为种子。请注意，对于完全确定性可重现的运行，您还必须将模型限制为单个工作线程，以消除 OS 线程调度的顺序抖动。

因此，如果您想获得可重复的结果，则需要设置种子：

In [1]: import gensim

In [2]: sentences=[['first','second','third','fourth']]*1000

In [3]: model1 = gensim.models.Word2Vec(sentences, min_count = 1, size = 2)

In [4]: model2 = gensim.models.Word2Vec(sentences, min_count = 1, size = 2)

In [5]: print(all(model1['first']==model2['first']))
False

In [6]: model3 = gensim.models.Word2Vec(sentences, min_count = 1, size = 2, seed = 1234)

In [7]: model4 = gensim.models.Word2Vec(sentences, min_count = 1, size = 2, seed = 1234)

In [11]: print(all(model3['first']==model4['first']))
True