【发布时间】:2021-06-08 08:08:36
【问题描述】:
我正在尝试使用 KNN 在 python 中输入分类变量。
为此,一种典型的方法是在之前对变量进行一次热编码。但是 sklearn OneHotEncoder() 不处理 NA,因此您需要将它们重命名为创建单独变量的名称。
可重现的小例子:
import pandas as pd
import numpy as np
from sklearn.preprocessing import OneHotEncoder
from sklearn.impute import SimpleImputer
#Create random pandas with categories to impute
data0 = pd.DataFrame(columns=["1","2"],data = [["A",np.nan],["B","A"],[np.nan,"A"],["A","B"]])
原始数据框:
data0
1 2
0 A NaN
1 B A
2 NaN A
3 A B
继续进行一种热编码:
#Rename for sklearn OHE
enc_missing = SimpleImputer(strategy="constant",fill_value="missing")
data1 = enc_missing.fit_transform(data0)
# Perform OHE:
OHE = OneHotEncoder(sparse=False)
data_OHE = OHE.fit_transform(data1)
Data_OHE 现在是一种热编码:
Data_OHE
array([[1., 0., 0., 0., 0., 1.],
[0., 1., 0., 1., 0., 0.],
[0., 0., 1., 1., 0., 0.],
[1., 0., 0., 0., 1., 0.]])
但是由于单独的“缺失”类别 - 我没有任何 nans 可以估算了。
我想要的一种热编码输出
array([[1, 0, np.nan, np.nan],
[0, 1, 1, 0 ],
[np.nan, np.nan, 1, 0 ],
[1, 0, 0, 1 ]
])
这样我就保留了 nans 以供以后估算。
你知道有什么办法吗?
据我了解,这已在 scikit-learn Github repo here 中讨论过
和here,即让OneHotEncoder 使用handle_missing 参数自动处理此问题,但我不确定他们的工作状态。
【问题讨论】:
标签: python scikit-learn nan missing-data one-hot-encoding