相关疑难解决方法(0)

在pySpark上执行连接时"已解决的属性缺失"

我有以下两个pySpark数据帧:

> df_lag_pre.columns
['date','sku','name','country','ccy_code','quantity','usd_price','usd_lag','lag_quantity']

> df_unmatched.columns
['alt_sku', 'alt_lag_quantity', 'country', 'ccy_code', 'name', 'usd_price']
Run Code Online (Sandbox Code Playgroud)

现在我想在常用列上加入它们,所以我尝试以下方法:

> df_lag_pre.join(df_unmatched, on=['name','country','ccy_code','usd_price'])
Run Code Online (Sandbox Code Playgroud)

我收到以下错误消息:

AnalysisException: u'resolved attribute(s) price#3424 missing from country#3443,month#801,price#808,category#803,subcategory#804,page#805,date#280,link#809,name#806,quantity#807,ccy_code#3439,sku#3004,day#802 in operator !EvaluatePython PythonUDF#<lambda>(ccy_code#3439,price#3424), pythonUDF#811: string;'
Run Code Online (Sandbox Code Playgroud)

显示此错误的某些列(例如price)df_lag是构建于其中的另一个数据框的一部分.我找不到有关如何解释此消息的任何信息,因此任何帮助将不胜感激.

apache-spark pyspark spark-dataframe

13
推荐指数
1
解决办法
7329
查看次数

标签 统计

apache-spark ×1

pyspark ×1

spark-dataframe ×1