【问题标题】:Easy way to apply transformation from `pandas.get_dummies` to new data?将“pandas.get_dummies”转换到新数据的简单方法?
【发布时间】:2015-04-12 11:45:36
【问题描述】:

假设我有一个数据框data,其中包含我想转换为指标的字符串。我使用pandas.get_dummies(data) 将其转换为我现在可以用于构建模型的数据集。

现在我有一个新的观察结果,我想在我的模型中运行。显然我不能使用pandas.get_dummies(new_data),因为它不包含所有的类并且不会制作相同的指标矩阵。有什么好办法吗?

【问题讨论】:

    标签: python pandas


    【解决方案1】:

    提取 JAB 的答案以便在 sklearn 管道中使用它,此代码可能会对您有所帮助:

    from sklearn.base import BaseEstimator, TransformerMixin
    
    class GetDummies(BaseEstimator, TransformerMixin):
        def __init__(self, dummy_columns):
            self.columns = None
            self.dummy_columns = dummy_columns
    
        def fit(self, X, y=None):
            self.columns = pd.get_dummies(X, columns=self.dummy_columns).columns
            return self
    
        def transform(self, X):
            X_new = pd.get_dummies(X, columns=self.dummy_columns)
            return X_new.reindex(columns=self.columns, fill_value=0)
    

    【讨论】:

      【解决方案2】:

      您可以从单个新观察中创建虚拟对象,然后使用原始指标矩阵中的列重新索引此框架列:

      import pandas as pd
      df = pd.DataFrame({'cat':['a','b','c','d'],'val':[1,2,5,10]})
      df1 = pd.get_dummies(pd.DataFrame({'cat':['a'],'val':[1]}))
      dummies_frame = pd.get_dummies(df)
      df1.reindex(columns = dummies_frame.columns, fill_value=0)
      

      返回:

              val     cat_a   cat_b   cat_c   cat_d
        0     1       1       0       0       0
      

      【讨论】:

      • 您可能希望 fill_value=0。
      • 上帝,我喜欢堆栈溢出。
      • 这意味着在推理时将整个训练数据帧保存在内存中!?
      • @marbel 不,您只需要列索引。
      • 如果测试数据不包含该类别的未见值,则此方法有效。但如果真的发生了怎么办?正确的解决方案是将其归为“其他”类别。如何有效地实现这一点?
      猜你喜欢
      • 2011-01-08
      • 2012-09-13
      • 1970-01-01
      • 2017-12-09
      • 2013-06-21
      • 2017-07-08
      • 2011-09-18
      • 1970-01-01
      • 2015-07-16
      相关资源
      最近更新 更多