ValueError：调用 cross_val_score 时发现未知类别

Question

我将 Titanic 数据集作为我的第一个 Kaggle 项目。但是我收到了这个用户警告，我正在尝试找出如何摆脱它。

所以我做了两个预处理子管道：

num_pipeline = Pipeline([
('imputer', SimpleImputer( strategy='median')), 
('scaler', StandardScaler()) ])

cat_pipeline = Pipeline([
('imputer', SimpleImputer(strategy='constant', fill_value='missing')),
('onehot', OneHotEncoder()) ])

我选择的用于构建模型的功能是：

numeric_features = ['Age', 'SibSp', 'Parch', 'Fare']
categorical_features = ['Pclass', 'Sex',  'Embarked']

我的预处理管道是：

preprocessor = ColumnTransformer(
transformers = [
    ('num', num_pipeline, numeric_features),
    ('cat', cat_pipeline, categorical_features)
])

在我的最终管道中，我添加了一个分类器：

clf = Pipeline([
('Preprocessor' , preprocessor),
('Classifier', DecisionTreeClassifier()) ])

然后我调用 cross_val_score 来评估模型，这就是我收到用户警告的时候：

cross_val_score(clf, X_train, y_train, cv=3, scoring="accuracy")

ValueError：在转换期间在第 2 列中发现未知类别 ['Missing'] 用户警告，

数组([ 南, 0.70403587, 0.74774775])

我的猜测是 cross_val_score 在没有“缺失”类别的情况下获得第一个折叠，然后在另一个带有“缺失”类别的情况下对其进行测试。因此出现错误。 所以我尝试删除“Embarked”中缺失值的行，但仍然得到奇怪的错误。

Answer 1

我自己也遇到了这个问题，然后我意识到为交叉验证的每一折单独运行 OneHotEncoder 是没有意义的。

docs for ColumnTrasnformer 说

在将数据传递给 scikit-learn 之前对其进行处理可能会由于以下原因之一出现问题：

1. 将来自测试数据的统计数据整合到预处理器中会导致交叉验证分数不可靠（称为数据泄漏），例如在缩放器或插补缺失值的情况下。
2. 您可能希望在参数搜索中包含预处理器的参数。

因此，您将SimpleImputer 和StandardScaler 放入ColumnTransformer 中是正确的，后者直接放入Pipeline 馈送到cross_val_score：它们将为每个折叠单独重新安装，避免使用来自验证的信息设置。

但是，OneHotEncoder 应该在单独的步骤中运行，然后再将数据提供给cross_val_score，即X_train 应该已经包含单热变量而不是分类变量。

通过这种方式，您不仅可以避免此警告（因为您已经提到在验证集中看到一个类在折叠的训练集中不存在），而且您将保持 one-hot 变量一致，因为它们应该是。换句话说，您不会冒险为每个折叠对 one-hot 变量进行排序或命名。

Answer 2

我希望你做到了以下几点：

1. 清理数据集，即填充所有列的所有 na/缺失值
2. 过滤并删除 NaN 行，即所有值 NaN 行