熊猫read_csv在改变列数的情况下添加标题名称

Question

我有很多csv文件，我想用Pandas（pd.read_csv）读取，但是，在一些文件的中间添加了一个没有标题的列，如以下示例：

Apples, Pears
1, 2
3, 4
5, 6, 7

如果使用pd.read_csv（example_file），将引发以下错误"ParserError：错误标记化数据。C错误：预期第4行中有2个字段，锯3"

我希望避免跳过这一行，而只是添加一个伪标题名，如Unknown1，并得到以下结果：

Apples, Pears, Unknown1  
1, 2, np.nan
3, 4, np.nan
5, 6, 7

Answer 1

如果您事先不知道列数，您可以使用readline（）预先确定所有行的最大列数，这是以丢失已知标头名称为代价的。

sep = ','                                                   # Define separator
lines = open("test.csv").readlines()                        # Open file and read lines
colcount = max([len(l.strip().split(sep)) for l in lines])  # Count separator
df = pd.read_csv("test.csv", names = range(colcount), skiprows = [0])
print df

   0  1    2
0  1  2  NaN
1  3  4  NaN
2  5  6  7.0

上面的colcount也可以应用到目前为止的所有其他答案。

编辑：注意输入文件，而不是。csv（见评论）

Answer 2

我们可以加载csv，然后修复您的问题

import io
t="""Apples, Pears
1, 2
3, 4
5, 6, 7"""
df = pd.read_csv(io.StringIO(t), sep='\t')

yourdf=df.iloc[:,0].str.split(', ',expand=True)
s=df.columns.str.split(', ').tolist()[0]
yourdf.columns=s+['unknow'+str(x+1) for x in range(yourdf.shape[1]-len(s))]


yourdf
Out[104]: 
  Apples Pears unknow1
0      1     2    None
1      3     4    None
2      5     6       7

Answer 3

熊猫需要提前知道几何体来构建数据帧。您可以读取标题行并添加几个虚拟列名以提供列数，然后重新读取整个csv并丢弃未使用的列。

>>> import pandas as pd
>>> names = list(pd.read_csv('foo.csv', nrows=0)) + ['unknown1', 'unknown2']
>>> df=pd.read_csv('foo.csv', names=names, skiprows=1).dropna(axis='columns', how='all')
>>> df
   Apples   Pears  unknown1
0       1       2       NaN
1       3       4       NaN
2       5       6       7.0

如果有许多额外的列，并且您担心中间数据帧的内存占用，您可以使用csv模块扫描文件并计算最大行数。与熊猫不同，csv非常乐意发出大小不同的行。

>>> with open('foo.csv', newline='') as in_fp:
...     reader = csv.reader(in_fp)
...     header = next(reader)
...     num_cols = max(len(row) for row in reader)
... 
>>> names = header + ['unknown{}'.format(i+1) for i in range(num_cols-len(header))]
>>> df = pd.read_csv('foo.csv', names=names, skiprows=1)
>>> df
   Apples   Pears  unknown1
0       1       2       NaN
1       3       4       NaN
2       5       6       7.0