如何将 CSV 数据读入 NumPy 中的记录数组？答案

【问题标题】：How do I read CSV data into a record array in NumPy?如何将 CSV 数据读入 NumPy 中的记录数组？
【发布时间】：2022-01-17 07:36:47
【问题描述】：

我想知道是否有直接的方法将 CSV 文件的内容导入记录数组，就像 R 的 read.table()、read.delim() 和 read.csv() 家族将数据导入 R 的数据框一样？

或者是使用csv.reader() 然后应用numpy.core.records.fromrecords() 之类的最佳方式？

【问题讨论】：

标签： python numpy scipy genfromtxt

【解决方案1】：

您可以使用 Numpy 的 genfromtxt() 方法来执行此操作，方法是将 delimiter kwarg 设置为逗号。

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

有关该功能的更多信息，请访问其各自的documentation。

【讨论】：

如果你想要不同类型的东西怎么办？喜欢字符串和整数？
@CGTheLegend np.genfromtxt('myfile.csv',delimiter=',',dtype=None)
numpy.loadtxt 对我来说也很好用
我试过了，但我只得到nan 值，为什么？同样使用 loadtxt，我得到了UnicodeDecodeError: 'ascii' codec can't decode byte 0xc3 in position 155: ordinal not in range(128)。我在输入数据中有 ä 和 ö 等变音符号。
@hhh 尝试添加 encoding="utf8" 参数。 Python 是为数不多的经常导致文本编码问题的现代软件之一，这让人感觉像是过去的事情。

【解决方案2】：

我会推荐 pandas 库中的 read_csv 函数：

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

这给了熊猫DataFrame - 允许many useful data manipulation functions which are not directly available with numpy record arrays。

DataFrame 是一个二维标签数据结构，其列数为潜在的不同类型。你可以把它想象成一个电子表格或 SQL 表...

我也会推荐genfromtxt。但是，由于问题要求record array，而不是普通数组，因此需要将dtype=None 参数添加到genfromtxt 调用中：

给定一个输入文件，myfile.csv:

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

给出一个数组：

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

和

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

给出一个记录数组：

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

这样的好处是文件带有multiple data types (including strings) can be easily imported。

【讨论】：

read_csv 使用引号内的逗号。推荐这个而不是 genfromtxt
使用 header=0 跳过值中的第一行，如果您的文件有 1 行标题
请记住，这会创建一个二维数组：例如(1000, 1)。 np.genfromtxt 不这样做：例如(1000,).

【解决方案3】：

我试过了：

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

对比：

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

在大约 70 列的 460 万行中，发现 NumPy 路径耗时 2 分 16 秒，而 csv-list 理解方法耗时 13 秒。

我会推荐 csv-list 理解方法，因为它很可能依赖于预编译的库，而不是 NumPy 那样的解释器。我怀疑 pandas 方法会有类似的解释器开销。

【讨论】：

我用一个包含 260 万行和 8 列的 csv 文件测试了与此类似的代码。 numpy.recfromcsv() 大约需要 45 秒，np.asarray(list(csv.reader())) 大约需要 7 秒，pandas.read_csv() 大约需要 2 秒（！）。（在所有情况下，该文件都是最近从磁盘读取的，因此它已经在操作系统的文件缓存中。）我想我会选择 pandas。
我刚刚注意到wesmckinney.com/blog/… 上有一些关于 pandas 快速 csv 解析器设计的注释。作者非常重视速度和内存要求。也可以使用 as_recarray=True 直接将结果作为 Python 记录数组而不是 pandas 数据帧。

【解决方案4】：

您也可以尝试recfromcsv()，它可以猜测数据类型并返回格式正确的记录数组。

【讨论】：

如果要在 CSV 中保持顺序/列名，可以使用以下调用：numpy.recfromcsv(fname, delimiter=',', filling_values=numpy.nan, case_sensitive=True, deletechars='', replace_space=' ') 关键参数是最后三个。

【解决方案5】：

当我尝试使用 NumPy 和 Pandas 两种方法时，使用 pandas 有很多优势：

更快
更少的 CPU 使用率
RAM 使用量是 NumPy genfromtxt 的 1/3

这是我的测试代码：

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

数据文件：

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

NumPy 和 pandas 的版本：

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

【讨论】：

【解决方案6】：

使用numpy.loadtxt

一个很简单的方法。但它要求所有元素都是浮动的（int等）

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)

【讨论】：

也可以这样用：''' data2 = np.genfromtxt(''c:\\1.csv', delimiter=',') '''

【解决方案7】：

您可以使用此代码将 CSV 文件数据发送到数组中：

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

【讨论】：

【解决方案8】：

我建议使用表格 (pip3 install tables)。您可以使用 pandas (pip3 install pandas) 将您的 .csv 文件保存到 .h5，

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

然后，您可以轻松地以更少的时间将数据加载到 NumPy 数组中。

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values

【讨论】：

【解决方案9】：

这项工作很有魅力......

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)

【讨论】：

【解决方案10】：

这是最简单的方法：

import csv
with open('testfile.csv', newline='') as csvfile:
    data = list(csv.reader(csvfile))

现在 data 中的每个条目都是一条记录，表示为一个数组。所以你有一个二维数组。它为我节省了很多时间。

【讨论】：

既然 Pandas 工具的功能膨胀程度要小得多，为什么我们还要搞砸呢？

【解决方案11】：

我试过了：

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)

【讨论】：

【解决方案12】：

适用于最新的 pandas 和 numpy 版本。

import pandas as pd
import numpy as np

data = pd.read_csv('data.csv', header=None)

# Discover, visualize, and preprocess data using pandas if needed.

data = data.to_numpy()

【讨论】：

【解决方案13】：

In [329]: %time my_data = genfromtxt('one.csv', delimiter=',')
CPU times: user 19.8 s, sys: 4.58 s, total: 24.4 s
Wall time: 24.4 s

In [330]: %time df = pd.read_csv("one.csv", skiprows=20)
CPU times: user 1.06 s, sys: 312 ms, total: 1.38 s
Wall time: 1.38 s

【讨论】：

请编辑问题，提供有关您的解决方案的更多信息。