在维护列数据类型的同时将行插入 pandas DataFrame

Question

在保持列数据类型的同时，将新行插入现有 pandas DataFrame 的最佳方法是什么，同时为未指定的列提供用户定义的填充值？这是一个例子：

df = pd.DataFrame({
    'name': ['Bob', 'Sue', 'Tom'],
    'age': [45, 40, 10],
    'weight': [143.2, 130.2, 34.9],
    'has_children': [True, True, False]
})

假设我想添加一条仅通过 name 和 age 的新记录。为了维护数据类型，我可以从df 复制行，修改值，然后将df 附加到副本中，例如

columns = ('name', 'age')
copy_df = df.loc[0:0, columns].copy()
copy_df.loc[0, columns] = 'Cindy', 42
new_df = copy_df.append(df, sort=False).reset_index(drop=True)

但这会将bool 列转换为对象。

这是一个非常老套的解决方案，感觉不是这样做的“正确方法”：

columns = ('name', 'age')
copy_df = df.loc[0:0].copy()

missing_remap = {
    'int64': 0,
    'float64': 0.0,
    'bool': False,
    'object': ''
}
for c in set(copy_df.columns).difference(columns)):
    copy_df.loc[:, c] = missing_remap[str(copy_df[c].dtype)]

new_df = copy_df.append(df, sort=False).reset_index(drop=True)
new_df.loc[0, columns] = 'Cindy', 42

我知道我一定错过了什么。

Answer 1

这是因为，NaN 值是浮点数，而 True 和 False 是布尔值。在一列中有混合的 dtypes，因此 Pandas 会自动将其转换为对象。

另一个例子是，如果你有一列包含所有整数值并附加一个浮点值，那么 pandas 通过将“.0”添加到剩余值来将整个列更改为浮点数。

---

编辑

基于 cmets，另一种将 object 转换为 bool dtype 的 hacky 方法。

df = pandas.DataFrame({
    'name': ['Bob', 'Sue', 'Tom'],
    'age': [45, 40, 10],
    'weight': [143.2, 130.2, 34.9],
    'has_children': [True, True, False]
})
row = {'name': 'Cindy', 'age': 12}
df = df.append(row, ignore_index=True)
df['has_children'] = df['has_children'].fillna(False).astype('bool')

现在新的数据框如下所示：

    age has_children    name    weight
 0  45  True             Bob    143.2
 1  40  True             Sue    130.2
 2  10  False            Tom    34.9
 3  12  False            Cindy  NaN

Answer 2

如您所见，由于NaN 是float，将NaN 添加到系列可能会导致它向上转换为float 或转换为object。您确定这不是一个理想的结果是正确的。

没有直接的方法。我的建议是将您的输入行数据存储在字典中，并在附加之前将其与默认字典相结合。请注意，这是有效的，因为 pd.DataFrame.append 接受 dict 参数。

在 Python 3.6 中，您可以使用语法 {**d1, **d2} 组合两个字典，并优先选择第二个。

default = {'name': '', 'age': 0, 'weight': 0.0, 'has_children': False}

row = {'name': 'Cindy', 'age': 42}

df = df.append({**default, **row}, ignore_index=True)

print(df)

   age  has_children   name  weight
0   45          True    Bob   143.2
1   40          True    Sue   130.2
2   10         False    Tom    34.9
3   42         False  Cindy     0.0

print(df.dtypes)

age               int64
has_children       bool
name             object
weight          float64
dtype: object