【发布时间】:2017-06-11 22:32:22
【问题描述】:
我正计划构建一个性别分类器。我知道两个流行的模型是 tf-idf 和 word2vec。 tf-idf 侧重于单词在文档中的重要性和文档的相似性,而 word2vec 更侧重于单词之间的关系以及它们之间的相似性。
但是,似乎没有一个主题非常适合构建用于性别分类的矢量特征。是否有其他可能适合此任务的替代矢量化模型?
【问题讨论】:
标签: python nlp tf-idf word2vec
我正计划构建一个性别分类器。我知道两个流行的模型是 tf-idf 和 word2vec。 tf-idf 侧重于单词在文档中的重要性和文档的相似性,而 word2vec 更侧重于单词之间的关系以及它们之间的相似性。
但是,似乎没有一个主题非常适合构建用于性别分类的矢量特征。是否有其他可能适合此任务的替代矢量化模型?
【问题讨论】:
标签: python nlp tf-idf word2vec
是的,w2v 还有另一种选择:GloVe。
GloVe 代表全局向量嵌入。 作为以前使用过这种技术并取得良好效果的人,我会推荐 GloVe。
GloVe 不仅通过查看局部窗口而且考虑更大的宽度(30+ 大小)来优化训练神经词嵌入,从而将更深层次的语义嵌入到嵌入中。
使用 glove,可以很容易地对关系建模,例如:X[man] - X[woman] = X[king] - X[queen],其中这些都是向量。
致谢:GloVe GitHub 页面(链接如下)。
您可以训练自己的 GloVe 嵌入,也可以使用他们重新训练的可用模型。即使对于特定领域,通用模型似乎也能很好地工作,尽管如果你自己训练它们,你会从模型中得到更多。请查看 GitHub 页面以获取有关如何训练自己的模型的说明。这很容易。
补充阅读:
【讨论】: