使用 sklearn 或 gensim 的监督降维/主题模型答案

【问题标题】：supervised dimensionality redunction/topic model using sklearn or gensim使用 sklearn 或 gensim 的监督降维/主题模型
【发布时间】：2015-07-28 21:17:27
【问题描述】：

我有 BOW 向量，我想知道 sklearn 或 gensim 中是否有监督降维算法能够获取高维、监督数据并将其投影到保留这些类之间差异的低维空间。

实际上，我正在尝试为分类/回归找到合适的指标，我相信使用维度可以帮助我。我知道有无监督的方法，但我想保留标签信息。

【问题讨论】：

标签： python machine-learning gensim dimensionality-reduction

【解决方案1】：

FastText - 来自 Facebook 研究的实施，基本上可以帮助您实现您所要求的。既然你问的是 gensim，我想你可能知道 gensim 中的 word2vec。

现在 word2vec 是 Mikolov 在谷歌时提出的。 Mikolov 和他在 Facebook ahs 的团队提出了 fastText，它考虑了单词和子单词信息。它还允许对文本进行分类。

【讨论】：

【解决方案2】：

您只能以无监督方式或有监督方式执行降维，但使用与目标标签不同的标签。

例如，您可以使用包含 100 个主题的数据集来训练逻辑回归分类器。使用您的训练数据的该分类器的输出（100 个值）可能是您的降维特征集。

【讨论】：

这种方法不会产生预期的结果，因为您正在学习监督已经减少的集合