我已经使用rosetta.parallel.pandas_easy并行分组后应用,例如:
from rosetta.parallel.pandas_easy import groupby_to_series_to_frame
df = pd.DataFrame({'a': [6, 2, 2], 'b': [4, 5, 6]},index= ['g1', 'g1', 'g2'])
groupby_to_series_to_frame(df, np.mean, n_jobs=8, use_apply=True, by=df.index)
Run Code Online (Sandbox Code Playgroud)
但是,有没有人想出如何并行化返回数据帧的函数?正如预期的那样,此代码对于rosetta失败.
def tmpFunc(df):
df['c'] = df.a + df.b
return df
df.groupby(df.index).apply(tmpFunc)
groupby_to_series_to_frame(df, tmpFunc, n_jobs=1, use_apply=True, by=df.index)
Run Code Online (Sandbox Code Playgroud)