Python pandas to_csv 导致 OSError: [Errno 22] 参数无效

Joã*_*tos 13 python csv pandas

我的代码如下:

import pandas as pd
import numpy as np

df = pd.read_csv("path/to/my/infile.csv")
df = df.sort_values(['distance', 'time'])
df.to_csv("path/to/my/outfile.csv")
Run Code Online (Sandbox Code Playgroud)

此代码成功从 infile.csv(一个 3GB csv 文件)读取数据,对其进行排序,但在尝试写入 outfile.csv 时失败,并出现以下错误:

OSError                                   Traceback (most recent call last)
<ipython-input-10-3a5c8279658d> in <module>
----> 1 df.to_csv('/Users/joaomatos/Desktop/cluster22_sorted_training.csv',index=False)

/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/pandas/core/frame.py in to_csv(self, path_or_buf, sep, na_rep, float_format, columns, header, index, index_label, mode, encoding, compression, quoting, quotechar, line_terminator, chunksize, tupleize_cols, date_format, doublequote, escapechar, decimal)
   1743                                  doublequote=doublequote,
   1744                                  escapechar=escapechar, decimal=decimal)
-> 1745         formatter.save()
   1746 
   1747         if path_or_buf is None:

/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/pandas/io/formats/csvs.py in save(self)
    164                                          encoding=encoding,
    165                                          compression=self.compression)
--> 166                 f.write(buf)
    167                 f.close()
    168                 for _fh in handles:

OSError: [Errno 22] Invalid argument
Run Code Online (Sandbox Code Playgroud)

我的问题是为什么?

小智 20

在探索了很多选项之后,包括将 pandas 库更新到最新版本(截至今天为 1.2.4)、将引擎更改为“python”或“c”、调试等,我终于发现了问题所在:

我将CSV 文件存储在一个文件夹中,该文件夹不断与 OneDrive 实时同步

是的!我发现托盘图标变得疯狂,并且 OneDrive 正在消耗资源,同时我正在对我的宠物项目进行算法交易回溯测试。我暂停了同步,然后就再也没有失败过!

我想您也可以从 OneDrive 中排除该文件夹,或者只是更改 CSV 存储/写入/访问的位置。

  • 我遇到了随机出现的相同问题,我的代码大部分时间都在运行,并且每隔一段时间就会抛出此错误。您对同步问题的解释对我来说很有意义,是否有代码可以检查文件是否正在使用,等待其完成同步,然后开始编写代码?除了停止同步之外的任何其他解决方案。 (3认同)

小智 15

我刚刚遇到了类似的问题,我使用了反斜杠\,这在过去通常有效,但这次我不得不使用/反斜杠,这非常奇怪,但它有效。


Joã*_*tos 4

显然,这个问题是由此处报告的与先前版本的 pandas 相关的已知错误引起的。我所要做的就是pip3 install --upgrade pandas然后重新启动计算机。