我在想,如果有可能创建一个UDF
接收两个参数的Column
和另一个变量(Object
,Dictionary
或任何其他类型),然后做一些操作,并返回结果.
实际上,我试图这样做,但我有一个例外.因此,我想知道是否有办法避免这个问题.
df = sqlContext.createDataFrame([("Bonsanto", 20, 2000.00),
("Hayek", 60, 3000.00),
("Mises", 60, 1000.0)],
["name", "age", "balance"])
comparatorUDF = udf(lambda c, n: c == n, BooleanType())
df.where(comparatorUDF(col("name"), "Bonsanto")).show()
Run Code Online (Sandbox Code Playgroud)
我收到以下错误:
AnalysisException:u"无法解析'Bonsanto'给定的输入列名称,年龄,余额;"
所以很明显,UDF
"看到" string
"Bonsanto"作为列名,实际上我正在尝试将记录值与第二个参数进行比较.
另一方面,我知道可以在where
子句中使用一些运算符(但实际上我想知道它是否可以使用UDF
),如下所示:
df.where(col("name") == "Bonsanto").show()
#+--------+---+-------+
#| name|age|balance|
#+--------+---+-------+
#|Bonsanto| 20| 2000.0|
#+--------+---+-------+
Run Code Online (Sandbox Code Playgroud) python user-defined-functions apache-spark apache-spark-sql pyspark