将数据帧返回函数应用于基础数据帧的每一行

kjo*_*kjo 2 python group-by apply pandas pandas-groupby

玩具示例

假设这base_df是如下所示的微小数据帧:

In [221]: base_df
Out[221]: 
     seed
I S      
0 a     0
  b     1
1 a     2
  b     3
Run Code Online (Sandbox Code Playgroud)

请注意,行base_df具有2级多索引.(此处的部分问题涉及在派生数据帧中"传播"此多索引的值.)

现在,函数fn(在本文末尾给出的定义)将整数seed作为参数,并返回由字符串键1索引的1列数据帧.例如:

In [222]: fn(0)
Out[222]: 
              F
key            
01011  0.592845
10100  0.844266

In [223]: fn(1)
Out[223]: 
              F
key            
11110  0.997185
01000  0.932557
11100  0.128124
Run Code Online (Sandbox Code Playgroud)

我想生成一个新的数据帧,实质上是应用于fn每一行base_df,并垂直连接结果数据帧.更具体地说,期望的结果如下所示:

                  F
I S key            
0 a 01011  0.592845
    10100  0.844266
  b 11110  0.997185
    01000  0.932557
    11100  0.128124
1 a 01101  0.185082
    01110  0.931541
  b 00100  0.070725
    11011  0.839949
    11111  0.121329
    11000  0.569311
Run Code Online (Sandbox Code Playgroud)

IOW,从概念上讲,通过为每一行生成一个"子数据帧" base_df并垂直连接这些子数据帧来获得所需的数据帧.对应于每行的子数据帧具有3级多索引.这个多索引的前两个级别(IS)来自base_df该行的多索引值,而它的最后一个级别(key),以及(孤独)F列的值来自fn为此返回的数据帧.行的seed价值.

我不清楚的部分是如何将行的原始多索引值传播到为该行的值创建的数据帧的fnseed.

重要提示:我正在寻找一种方法,这种方法与base_df多指数级别的名称及其数量无关.


我尝试了以下内容

base_df.apply(lambda row: fn(row.seed), axis=1)
Run Code Online (Sandbox Code Playgroud)

...但评估失败并出现错误

ValueError: Shape of passed values is (4, 2), indices imply (4, 1)
Run Code Online (Sandbox Code Playgroud)

是否有一些方便的方法来做我想做的事情?


这是定义fn.就这个问题而言,它的内部结构并不重要.重要的是它需要一个整数seed作为参数,并返回一个数据帧,如前所述.

import numpy
def fn(seed, _spec='{{0:0{0:d}b}}'.format(5)):
    numpy.random.seed(int(seed))
    n = numpy.random.randint(2, 5)
    r = numpy.random.rand(n)
    k = map(_spec.format, numpy.random.randint(0, 31, size=n))
    result = pandas.DataFrame(r, columns=['F'], index=k)
    result.index.name = 'key'
    return result
Run Code Online (Sandbox Code Playgroud)

1在这个例子中,这些键恰好对应于0到31之间某个整数的二进制表示,包括在内,但这个事实在问题中没有任何作用.

piR*_*red 5

选项1
groupby

base_df.groupby(level=[0, 1]).apply(fn)

                  F
I S key            
0 a 11010  0.385245
    00010  0.890244
    00101  0.040484
  b 01001  0.569204
    11011  0.802265
    00100  0.063107
1 a 00100  0.947827
    00100  0.056551
    11000  0.084872
  b 11110  0.592641
    00110  0.130423
    11101  0.915945
Run Code Online (Sandbox Code Playgroud)

选项2
pd.concat

pd.concat({t.Index: fn(t.seed) for t in base_df.itertuples()})

                  F
    key            
0 a 11011  0.592845
    00011  0.844266
  b 00101  0.997185
    01111  0.932557
    00000  0.128124
1 a 01011  0.185082
    10010  0.931541
  b 10011  0.070725
    01010  0.839949
    01011  0.121329
    11001  0.569311
Run Code Online (Sandbox Code Playgroud)