小编CFa*_*bry的帖子

使用dask.delayed和pandas.DataFrame将字典的dask.bag转换为dask.dataframe

我正在努力将a dask.bag词典转换dask.delayed pandas.DataFrames成最终版dask.dataframe

我有一个函数(make_dict)可以将文件读入一个相当复杂的嵌套字典结构中,还有一个函数(make_df)可以将这些词典转换成一个字典pandas.DataFrame(每个文件的数据帧约为100 mb)。我想将所有数据框附加到一个中,dask.dataframe以进行进一步分析。

到目前为止,我一直在使用dask.delayed对象加载,转换和附加所有运行良好的数据(请参见下面的示例)。但是,为了将来的工作,我想将加载的字典存储在dask.bagusing中dask.persist()

我设法将数据加载到其中dask.bag,从而生成了一系列字典或pandas.DataFrame调用后可以在本地使用的字典列表compute()。但是,当我尝试将dask.bag变成dask.dataframe使用to_delayed()时,遇到了错误(请参阅下文)。

感觉好像我在这里遗漏了一些简单的东西,或者也许我的方法dask.bag是错误的?

以下示例显示了我使用简化函数的方法,并引发了相同的错误。任何有关如何解决此问题的建议,我们深表感谢。

import numpy as np
import pandas as pd
import dask
import dask.dataframe
import dask.bag

print(dask.__version__) # 1.1.4
print(pd.__version__) # 0.24.2

def make_dict(n=1):
    return {"name":"dictionary","data":{'A':np.arange(n),'B':np.arange(n)}}

def make_df(d):
    return pd.DataFrame(d['data'])

k = [1,2,3]

# using dask.delayed
dfs = []
for n in k:
    delayed_1 = …
Run Code Online (Sandbox Code Playgroud)

dask dask-delayed

5
推荐指数
1
解决办法
583
查看次数

标签 统计

dask ×1

dask-delayed ×1