何时在熊猫中使用多索引与xarray

Question

该大熊猫透视表的文件似乎建议更换使用multiindexing数据超过两个维度进行处理:

In [1]: import pandas as pd

In [2]: import numpy as np

In [3]: import pandas.util.testing as tm; tm.N = 3

In [4]: def unpivot(frame):
   ...:         N, K = frame.shape
   ...:         data = {'value' : frame.values.ravel('F'),
   ...:                 'variable' : np.asarray(frame.columns).repeat(N),
   ...:                 'date' : np.tile(np.asarray(frame.index), K)}
   ...:         return pd.DataFrame(data, columns=['date', 'variable', 'value'])
   ...: 

In [5]: df = unpivot(tm.makeTimeDataFrame())

In [6]: df
Out[6]: 
         date variable     value    value2
0  2000-01-03        A  0.462461  0.924921
1  2000-01-04        A -0.517911 -1.035823
2  2000-01-05        A  0.831014  1.662027
3  2000-01-03        B -0.492679 -0.985358
4  2000-01-04        B -1.234068 -2.468135
5  2000-01-05        B  1.725218  3.450437
6  2000-01-03        C  0.453859  0.907718
7  2000-01-04        C -0.763706 -1.527412
8  2000-01-05        C  0.839706  1.679413
9  2000-01-03        D -0.048108 -0.096216
10 2000-01-04        D  0.184461  0.368922
11 2000-01-05        D -0.349496 -0.698993

In [7]: df['value2'] = df['value'] * 2

In [8]: df.pivot('date', 'variable')
Out[8]: 
               value                                  value2            \
variable           A         B         C         D         A         B   
date                                                                     
2000-01-03 -1.558856 -1.144732 -0.234630 -1.252482 -3.117712 -2.289463   
2000-01-04 -1.351152 -0.173595  0.470253 -1.181006 -2.702304 -0.347191   
2000-01-05  0.151067 -0.402517 -2.625085  1.275430  0.302135 -0.805035   


variable           C         D  
date                            
2000-01-03 -0.469259 -2.504964  
2000-01-04  0.940506 -2.362012  
2000-01-05 -5.250171  2.550861  

我认为xarray是为处理多维数据集而制作的,如下所示:

In [9]: import xarray as xr

In [10]: xr.DataArray(dict([(var, df[df.variable==var].drop('variable', 1)) for var in np.unique(df.variable)]))
Out[10]: 
<xarray.DataArray ()>
array({'A':         date     value    value2
0 2000-01-03  0.462461  0.924921
1 2000-01-04 -0.517911 -1.035823
2 2000-01-05  0.831014  1.662027, 'C':         date     value    value2
6 2000-01-03  0.453859  0.907718
7 2000-01-04 -0.763706 -1.527412
8 2000-01-05  0.839706  1.679413, 'B':         date     value    value2
3 2000-01-03 -0.492679 -0.985358
4 2000-01-04 -1.234068 -2.468135
5 2000-01-05  1.725218  3.450437, 'D':          date     value    value2
9  2000-01-03 -0.048108 -0.096216
10 2000-01-04  0.184461  0.368922
11 2000-01-05 -0.349496 -0.698993}, dtype=object)

这些方法中的一种比另一种更好吗？为什么xarray没有完全取代多索引？

Answer 1

似乎有一个过渡到xarray来处理多维数组.Pandas将贬低对3D Panels数据结构的支持,并且在文档中甚至建议使用xarray来处理多维数组:

通常,人们可以简单地使用MultiIndex DataFrame轻松处理更高维数据.

此外,xarray软件包是从头开始构建的,特别是为了支持Panel的主要用例之一的多维分析.这是xarray面板转换文档的链接.

从xarray文档中,他们陈述了他们的目标和目标:

xarray旨在提供与熊猫一样强大的数据分析工具包,但设计用于处理同类N维数组而不是表格数据...

......我们的目标受众是需要N维标记阵列的任何人,但我们特别关注物理科学家的数据分析需求 - 尤其是已经了解并喜爱netCDF的地球科学家

xarray使用直接numpy的主要优点是它以与pandas在多个维度上相同的方式使用标签.如果使用多索引或xarray处理三维数据可能是可互换的.随着数据集中维度数量的增长,xarray变得更易于管理.我无法评论每种方式在效率或速度方面的表现.