【发布时间】:2016-06-19 17:33:43
【问题描述】:
我已经使用 PySpark 训练了一个 Word2Vec 模型并保存了它。加载模型时 .findSynonyms 方法不起作用。
model = word2vec.fit(text)
model.save(sc, 'w2v_model')
new_model = Word2VecModel.load(sc, 'w2v_model')
new_model.findSynonyms('word', 4)
得到以下错误:
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/usr/lib/spark/python/pyspark/mllib/feature.py", line 487, in findSynonyms
words, similarity = self.call("findSynonyms", word, num)
ValueError: too many values to unpack
我发现了以下问题,但不确定问题是如何解决的:https://issues.apache.org/jira/browse/SPARK-12016
如果有任何解决方法,请告诉我!
非常感谢。
【问题讨论】:
-
github.com/apache/spark/pull/10100/files 因为它是合并的,所以您可以从所需的分支构建。
-
我在 AWS EMR 版本上运行它。是否可以在 EMR 上构建它?谢谢!
-
我不这么认为,但您始终可以单独构建一个包装类并与您的工作一起提交。那么 Python 端代码应该不成问题。
标签: apache-spark pyspark word2vec