【问题标题】:Should I use a tfidf corpus or just corpus to inference documents using LDA?我应该使用 tfidf 语料库还是仅使用语料库来使用 LDA 推断文档?
【发布时间】:2015-01-24 16:40:27
【问题描述】:

我想知道当我们在 gensim 中使用 LDA 推理文档时,它是要使用的 TFIDF 语料库还是只是要使用的语料库

这是一个例子

from gensim import corpora, models
import numpy.random
numpy.random.seed(10)

doc0 = [(0, 1), (1, 1)]
doc1 = [(0,1)] 
doc2 = [(0, 1), (1, 1)]
doc3 = [(0, 3), (1, 1)]

corpus = [doc0,doc1,doc2,doc3]
dictionary = corpora.Dictionary(corpus)

tfidf = models.TfidfModel(corpus)
corpus_tfidf = tfidf[corpus]
corpus_tfidf.save('x.corpus_tfidf')

corpus_tfidf = corpora.MmCorpus.load('x.corpus_tfidf')

lda = models.ldamodel.LdaModel(corpus_tfidf, id2word=dictionary, num_topics=2)

#which one i should use from this   
**corpus_lda = lda[corpus]**          #this one 
**corpus_LDA = lda[corpus_tfidf ]**   #or this one?


corpus_lda.save('x.corpus_lda')

for i,j in enumerate(corpus_lda):
    print j, corpus[i]

【问题讨论】:

    标签: python lda gensim


    【解决方案1】:

    根据Gensim's mailing list(特别是最后的帖子),标准程序是使用一个词袋语料库。您可以使用 TF-IDF 语料库,但似乎不清楚这会产生什么样的效果。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2018-12-27
      • 2016-01-13
      • 1970-01-01
      • 2014-08-21
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-08-01
      相关资源
      最近更新 更多