相关疑难解决方法(0)

Pandas - 在块中切割​​大型数据帧

我有一个大的数据帧(> 3MM行),我试图通过一个函数(下面的一个很大程度上简化),我不断收到一条Memory Error消息.

我想我将太大的数据帧传递给函数,所以我试图:

1)将数据帧切成较小的块(最好是切片AcctName)

2)将数据帧传递给函数

3)将数据帧连接回一个大型数据帧

def trans_times_2(df):
    df['Double_Transaction'] = df['Transaction'] * 2

large_df 
AcctName   Timestamp    Transaction
ABC        12/1         12.12
ABC        12/2         20.89
ABC        12/3         51.93    
DEF        12/2         13.12
DEF        12/8          9.93
DEF        12/9         92.09
GHI        12/1         14.33
GHI        12/6         21.99
GHI        12/12        98.81
Run Code Online (Sandbox Code Playgroud)

我知道我的功能正常,因为它可以在较小的数据帧(例如40,000行)上工作.我尝试了以下方法,但是我将小数据帧连接回一个大型数据帧是不成功的.

def split_df(df):
    new_df = []
    AcctNames = df.AcctName.unique()
    DataFrameDict = {elem: pd.DataFrame for elem in AcctNames}
    key_list = [k for k in DataFrameDict.keys()]
    new_df = []
    for key in …
Run Code Online (Sandbox Code Playgroud)

python slice dataframe pandas

14
推荐指数
3
解决办法
1万
查看次数

标签 统计

dataframe ×1

pandas ×1

python ×1

slice ×1