Scikit-learn 的 (0.22.1) KNNImputer 返回错误数量的值

Question

我的原始数据集形状是 (790215,20)，其中包含大约 60-80% 缺失值的特征。我决定使用 scikit-learn 的 KNNImputer 如下

import pandas as pd
from sklearn.impute import KNNImputer

# Loading the data
dataset = pd.read_csv('Dataset.csv')

# To avoid 'MemoryError' imputing individually

#Loading the first feature
X = dataset.iloc[:,0].values

#Imputing with default parameters 
imputer = KNNImputer()

#Reshaping to meet the dimensional requirement
X_imp  = imputer.fit_transform(X.reshape(1,-1))

现在X_imp 的形状是(1,729026)

我不确定我做错了什么。为什么 790215 改为 729026。

更新：

X.shape 是(790215,)

X.reshape(1,-1).shape 是(1,790215)

X.reshape(1,-1) 是array([[ nan, 97., 89., ..., 140., 120., 115.]])

Answer 1

您使用reshape 的方式是问题所在。您已通过提供.reshape(1, -1) 将数据转换为单个数据点。意思是 1 行 790215 列。因此，在转换 KNNImputer 时，会删除只有 nan 值的列。这就是下降的原因。

相反，您需要使用.reshape(-1,1)，这将使其成为 790215 行和 1 列。

注意：对 KNNImputer 使用单一功能可能效果不佳。更好的是，您一次可以使用 3-5 个功能。你也可以看看SimpleImputer。