kam*_*kam 5 python performance json dictionary graph-theory
我有一个很大的 Python 值字典(大约 50 GB),并将其存储为 JSON 文件。在打开文件和写入文件时,我遇到了效率问题。我知道您可以使用 ijson 有效地读取文件,但是我如何有效地写入文件?
我什至应该使用 Python 字典来存储我的数据吗?python字典的大小有限制吗?(字典会变大)。
数据基本上存储了大图中节点之间的路径长度。我无法将数据存储为图形,因为搜索两个节点之间的连接花费的时间太长。
任何帮助将非常感激。谢谢!
尝试将其与 pandas 一起使用:https://pandas.pydata.org/pandas-docs/stable/ generated/pandas.read_json.html
pandas.read_json(path_or_buf=None, orient=None, typ='frame', dtype=True, convert_axes=True, convert_dates=True, keep_default_dates=True, numpy=False, precise_float=False, date_unit=None, encoding=None, lines=False, chunksize=None, compression='infer')
Convert a JSON string to pandas object
Run Code Online (Sandbox Code Playgroud)
它非常轻量级且有用的库,可以处理大数据