PySpark 2.4.4 toPandas 失败,出现 ValueError 没有足够的值来解包(预期 3,得到 2)

Man*_*sav 5 python apache-spark-sql pyspark pyarrow

在 Spark 数据帧上,当我执行“toPandas”时,我最终出现此错误:

pandas_df = Spark_df.toPandas()

文件“/opt/mapr/spark/spark-2.4.4/python/lib/pyspark.zip/pyspark/sql/dataframe.py”,第 2122 行,位于 toPandas 中

文件“/opt/mapr/spark/spark-2.4.4/python/lib/pyspark.zip/pyspark/sql/dataframe.py”,第 2180 行,位于 _collectAsArrow 中

ValueError:没有足够的值来解压(预期为 3,实际为 2)

Spark 版本 - 2.4.4 Pyarrow 版本 - 0.14.1

Spark 2.3.1 和 pyarrow 0.9.0 也同样适用。

有什么帮助可以用 Spark 2.4.4 解决这个问题吗?