【问题标题】:How to Extend Scipy Sparse Matrix returned by sklearn TfIdfVectorizer to hold more features如何扩展 sklearn TfIdfVectorizer 返回的 Scipy 稀疏矩阵以保存更多功能
【发布时间】:2013-04-03 00:18:55
【问题描述】:

我正在使用 scikit-learn 分类器和文本特征提取器,特别是 TfidfVectorizer 类来解决文本分类问题。

问题是我有两种特征,第一种是由从 TfidfVectorizer 获得的 n-gram 捕获的,另一种是我从每个文档中提取的领域特定特征。我需要将每个文档的两个特征组合在一个特征向量中;为此,我需要通过在包含此文档的域特征的每一行中添加一个新维度来更新 TfidfVectorizer 返回的 scipy 稀疏矩阵。但是,我找不到一种简洁的方法来做到这一点,整洁是指不将稀疏矩阵转换为密集矩阵,因为它根本不适合内存。

可能我缺少 scikit-learn 中的某个功能或其他东西,因为我对 scipy 和 scikit-learn 都是新手。

【问题讨论】:

    标签: python-2.7 scipy sparse-matrix scikit-learn


    【解决方案1】:

    我认为最简单的方法是使用您的自定义功能创建一个新的稀疏矩阵,然后使用scipy.sparse.hstack 来堆叠这些功能。 您可能还会发现管道模块中的“FeatureUnion”很有帮助。

    【讨论】:

    • 我没有找到“FeatureStacker”,你的意思是“FeatureUnion”吗?
    • 对不起,是的,我就是这个意思。
    猜你喜欢
    • 2019-07-04
    • 2013-11-16
    • 2019-10-04
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2016-12-28
    • 2017-03-26
    • 2017-03-31
    相关资源
    最近更新 更多