Pandas read_csv 在更改列数的情况下添加标题名称

Question

我有很多 csv 文件，我想用 Pandas (pd.read_csv) 读取，但是，在某些文件中，在中间添加了一个没有标题的列，比如这个例子：

Apples, Pears
1, 2
3, 4
5, 6, 7

如果使用 pd.read_csv(example_file) 会抛出以下错误“ParserError: Error tokenizing data. C error: Expected 2 fields in line 4, saw 3”

我想避免跳过该行，而是添加一个虚拟标题名称，如 Unknown1，并获得以下结果：

Apples, Pears, Unknown1  
1, 2, np.nan
3, 4, np.nan
5, 6, 7

Answer 1

pandas 需要提前知道几何结构来构建数据框。您可以读取标题行并添加几个虚拟列名以提供列数，然后重新读取整个 csv 并丢弃根本未使用的列。

>>> import pandas as pd
>>> names = list(pd.read_csv('foo.csv', nrows=0)) + ['unknown1', 'unknown2']
>>> df=pd.read_csv('foo.csv', names=names, skiprows=1).dropna(axis='columns', how='all')
>>> df
   Apples   Pears  unknown1
0       1       2       NaN
1       3       4       NaN
2       5       6       7.0

如果有很多额外的列并且您担心中间数据帧的内存占用，您可以使用csv 模块扫描文件并计算最大行数。与pandas 不同，csv 非常乐意发出不同大小的行。

>>> with open('foo.csv', newline='') as in_fp:
...     reader = csv.reader(in_fp)
...     header = next(reader)
...     num_cols = max(len(row) for row in reader)
... 
>>> names = header + ['unknown{}'.format(i+1) for i in range(num_cols-len(header))]
>>> df = pd.read_csv('foo.csv', names=names, skiprows=1)
>>> df
   Apples   Pears  unknown1
0       1       2       NaN
1       3       4       NaN
2       5       6       7.0

Answer 2

我们可以加载 csv 然后修复你的问题

import io
t="""Apples, Pears
1, 2
3, 4
5, 6, 7"""
df = pd.read_csv(io.StringIO(t), sep='\t')

yourdf=df.iloc[:,0].str.split(', ',expand=True)
s=df.columns.str.split(', ').tolist()[0]
yourdf.columns=s+['unknow'+str(x+1) for x in range(yourdf.shape[1]-len(s))]


yourdf
Out[104]: 
  Apples Pears unknow1
0      1     2    None
1      3     4    None
2      5     6       7

Answer 3

如果您事先不知道列数，可以使用 readlines() 预先确定所有行的最大列数，但代价是丢失已知的标题名称。

sep = ','                                                   # Define separator
lines = open("test.csv").readlines()                        # Open file and read lines
colcount = max([len(l.strip().split(sep)) for l in lines])  # Count separator
df = pd.read_csv("test.csv", names = range(colcount), skiprows = [0])
print df

   0  1    2
0  1  2  NaN
1  3  4  NaN
2  5  6  7.0

上面的colcount 也可以应用于到目前为止的所有其他答案。

---

编辑：注意 .csv 以外的输入文件（请参阅 cmets）