【问题标题】:ColumnTransformer fit_transform not working with pipelineColumnTransformer fit_transform 不适用于管道
【发布时间】:2020-08-06 17:09:33
【问题描述】:

我正在编写带有自定义转换器的管道。当调用分类管道的 fit_transform 时,我得到了想要的结果,但是当调用 ColumnTransformer 的 fit_transform 时,我在自定义转换器的 init 中初始化的任何内容都会丢失。 注意:为了便于阅读,不包括 numericTransformer 的代码

class categoryTransformer(BaseEstimator, TransformerMixin):
def __init__(self, use_dates=['year', 'month', 'day']):
    self._use_dates = use_dates
    print('==========>',self._use_dates)
def fit(self, X, y=None):
    return self

def get_year(self, obj):
    return str(obj)[:4]

def get_month(self, obj):
    return str(obj)[4:6]

def get_day(self, obj):
    return str(obj)[6:8]

def create_boolean(self, obj):
    if obj == '0':
        return 'No'
    else:
        return 'Yes'
    
def transform(self, X, y=None):
    print(self._use_dates)

     for spec in self._use_dates:
         print(spec)
         exec("X.loc[:,'{}'] = X['date'].apply(self.get_{})".format(spec, spec))
    
    X = X.drop('date', axis=1)
    X.loc[:,'yr_renovated'] = X['yr_renovated'].apply(self.create_boolean)
    X.loc[:, 'view'] = X['view'].apply(self.create_boolean)
    return X.values

cat_pipe = Pipeline([
('cat_transform', categoryTransformer()),
('one_hot', OneHotEncoder(sparse=False))])

num_pipe = Pipeline([
('num_transform', numericalTransformer()),
('imputer', SimpleImputer(strategy = 'median')),
('std_scaler', StandardScaler())])

full_pipe = ColumnTransformer([
('num', num_pipe, numerical_features),
('cat', cat_pipe, categorical_features)])

cat_pipe.fit_transform(data[categorical_features])#working fine
df2 = full_pipe.fit_transform(X_train)# __init__ initialisation lost

"output"
==========> ['year', 'month', 'day']
['year', 'month', 'day']
year
month
day
==========> None
None

在我无法调试的那段漫长的回溯之后。解决方法是如果我可以在转换函数本身中创建 use_dates=['year', 'month', 'day'] 但我想了解为什么会发生这种情况。

【问题讨论】:

    标签: python pandas scikit-learn


    【解决方案1】:

    __init__ 的参数需要与设置的属性同名(所以use_dates_use_dates 是问题所在。

    这是克隆正常工作所必需的,ColumnTransformer 在安装之前会克隆其所有转换器。

    https://scikit-learn.org/stable/developers/develop.html#instantiation

    【讨论】:

      猜你喜欢
      • 2020-03-08
      • 2021-03-05
      • 2019-06-08
      • 1970-01-01
      • 2013-02-26
      • 2020-06-11
      • 1970-01-01
      • 2019-04-22
      • 2021-04-17
      相关资源
      最近更新 更多