如何在NumPy中将CSV数据读入记录数组？

Question

我不知道是否有导入CSV文件的内容为记录阵列直接的方式,很多的方式是R的read.table(),read.delim()和read.csv()家庭的进口数据与R的数据帧？

或者是使用csv.reader()然后应用类似的东西的最佳方法numpy.core.records.fromrecords()？

Answer 1

您可以使用Numpy的genfromtxt()方法,通过将delimiterkwarg 设置为逗号.

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

有关该功能的更多信息,请参见其相应的文档.

Answer 2

我会推荐库中的read_csv函数pandas:

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

这给了一个pandas DataFrame - 允许许多有用的数据操作函数,这些函数不能直接用于numpy记录数组.

DataFrame是一个二维标记数据结构,具有可能不同类型的列.你可以把它想象成电子表格或SQL表......

我也会推荐genfromtxt.但是,由于问题要求记录数组,而不是普通数组,因此dtype=None需要将参数添加到genfromtxt调用中:

给定输入文件,myfile.csv:

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

给出一个数组:

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

和

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

给出一个记录数组:

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

这样做的好处是可以轻松导入具有多种数据类型(包括字符串)的文件.

Answer 3

您还可以尝试recfromcsv()猜测数据类型并返回格式正确的记录数组.

Answer 4

我定时了

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

与

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

在460万行,大约70列,发现NumPy路径需要2分16秒,而csv-list理解方法需要13秒.

我建议使用csv-list理解方法,因为它很可能依赖于预编译的库而不是NumPy那样的解释器.我怀疑pandas方法会有类似的解释器开销.

Answer 5

当我尝试使用NumPy和Pandas两种方式时,使用pandas有很多优点:

• 快点
• 减少CPU使用率
• 与NumPy genfromtxt相比,使用1/3 RAM

这是我的测试代码:

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

数据文件:

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

在版本中使用NumPy和pandas:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

Answer 6

这是最简单的方法：

import csv
with open('testfile.csv', newline='') as csvfile:
    data = list(csv.reader(csvfile))

现在 data 中的每个条目都是一条记录，表示为一个数组。所以你有一个二维数组。它为我节省了很多时间。

Answer 7

我建议使用表格 ( pip3 install tables)。您可以使用 pandas ( )保存.csv文件，.h5pip3 install pandas

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

然后，即使对于大量数据，您也可以轻松且用更少的时间将数据加载到NumPy 数组中。

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values

Answer 8

适用于最新的 pandas 和 numpy 版本。

import pandas as pd
import numpy as np

data = pd.read_csv('data.csv', header=None)

# Discover, visualize, and preprocess data using pandas if needed.

data = data.to_numpy()

Answer 9

您可以使用此代码将CSV文件数据发送到数组中:

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

Answer 10

使用 numpy.loadtxt

一个很简单的方法。但它要求所有元素都是浮动的（int 等）

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)  

Answer 11

这项工作作为一种魅力......

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)