如何让pandas.read_csv()从CSV文件列中推断出datetime和timedelta类型？

Question

pandas.read_csv()推断列的类型,但我不能让它来推断任何datetime或timedelta类型(例如datetime64,timedelta64用于其值看起来明显日期时间和时间增量列).

这是一个示例CSV文件:

datetime,timedelta,integer,number,boolean,string
20111230 00:00:00,one hour,10,1.6,True,Foobar

还有一些用pandas读取它的代码:

dataframe = pandas.read_csv(path)

该数据框上的列类型分别为object,object,int,float,bool,object.除了前两列之外,它们都是我所期望的,我希望它们是datetime和timedelta.

是否有可能让pandas自动检测datetime和timedelta列？

(我不想告诉大熊猫哪些列是datetimes和timedeltas或告诉它格式,我希望它尝试自动检测它们,就像它对into,float和bool列一样.)

Answer 1

您可以做的一件事是使用 定义日期解析器strptime，这将处理您的日期格式，但这不是自动的：

In [59]:

import pandas as pd
import datetime as dt

def parse_dates(x):
    return dt.datetime.strptime(x, '%Y%m%d %H:%M:%S')
# dict for word lookup, conversion
word_to_int={'zero':0,
     'one':1,
     'two':2,
     'three':3,
     'four':4,
     'five':5,
     'six':6,
     'seven':7,
     'eight':8,
     'nine':9}


def str_to_time_delta(x):
    num = 0
    if 'hour' in x.lower():
        num = x[0:x.find(' ')].lower()
    return dt.timedelta( hours = word_to_int[num])
df = pd.read_csv(r'c:\temp1.txt', parse_dates=[0],date_parser=parse_dates)
df.dtypes
Out[59]:
datetime     datetime64[ns]
timedelta            object
integer               int64
number              float64
boolean                bool
string               object
dtype: object
In [60]:

然后转换为 timedeltas 使用 dict 和函数来解析并转换为 timedeltas

df['timedelta'] = df['timedelta'].map(str_to_time_delta)

In [61]:

df.dtypes
Out[61]:
datetime      datetime64[ns]
timedelta    timedelta64[ns]
integer                int64
number               float64
boolean                 bool
string                object
dtype: object
In [62]:

df
Out[62]:
             datetime  timedelta  integer  number boolean  string
0 2011-12-30 00:00:00   01:00:00       10     1.6    True  Foobar

[1 rows x 6 columns]

要回答您的主要问题，我不知道自动执行此操作的方法。

编辑

您可以这样做，而不是我复杂的映射函数：

df['timedelta'] = pd.to_timedelta(df['timedelta'])

进一步编辑

正如@Jeff 所指出的，您可以strptime在读取 csv 时执行此操作而不是使用（尽管在 0.13.1 及更高版本中）：

df = pd.read_csv(r'c:\temp1.txt', parse_dates=[0], infer_datetime_format=True)