【发布时间】:2020-03-23 13:47:30
【问题描述】:
确实是一个简单的问题,我有一个数据集太大而无法保存在内存中,因此必须加载它然后按顺序对其执行机器学习。我的功能之一是分类的,我想将其转换为虚拟变量,但我有两个问题:
1) 在拼接过程中并非所有类别都存在。所以我想添加额外的类别,即使它们没有出现在当前切片中
2) 列必须保持与以前相同的顺序。
这是问题的一个例子:
In[1]: import pandas as pd
splice1 = pd.Series(list('bdcccb'))
Out[1]: 0 b
1 d
2 c
3 c
4 c
5 b
dtype: object
In[2]: splice2 = pd.Series(list('accd'))
Out[2]: 0 a
1 c
2 c
3 d
dtype: object
In[3]: splice1_dummy = pd.get_dummies(splice1)
Out[3]: b c d
0 1 0 0
1 0 0 1
2 0 1 0
3 0 1 0
4 0 1 0
5 1 0 0
In[4]: splice2_dummy = pd.get_dummies(splice2)
Out[4]: a c d
0 1 0 0
1 0 1 0
2 0 1 0
3 0 0 1
编辑:如何处理 N-1 规则。必须删除一个虚拟变量,但要删除哪个?每个新拼接都将包含不同的分类变量。
【问题讨论】:
标签: python sequential one-hot-encoding dummy-variable