相反.join()pyspark

Joh*_*ith 2 python apache-spark pyspark

join 返回包含具有匹配键的所有元素对的RDD.

https://spark.apache.org/docs/1.6.2/api/python/pyspark.html#pyspark.RDD.join

例:

 trueDupsRDD = (rdd1.join(rdd2))
Run Code Online (Sandbox Code Playgroud)

我怎么能脱离?

我试过了:

notMatchingRDD = (rdd1.join(!rdd2))
Run Code Online (Sandbox Code Playgroud)

小智 5

用途subtractByKey:

返回C {self}中的每个(键,值)对,它们与C {other}中的匹配键没有对.

rdd1.subtractByKey(rdd2)
Run Code Online (Sandbox Code Playgroud)