小编Leo*_*gna的帖子

如何在PySpark groupByKey()中的迭代器中对值求和

我在Spark(Python)上做了我的第一步,我正在努力使用一个迭代器groupByKey().我无法对值进行求和:我的代码如下所示:

example = sc.parallelize([('x',1), ('x',1), ('y', 1), ('z', 1)])

example.groupByKey()
Run Code Online (Sandbox Code Playgroud)
x [1,1]
y [1]
z [1]
Run Code Online (Sandbox Code Playgroud)

如何获得总和Iterator?我尝试了类似下面的东西,但它不起作用

example.groupByKey().map(lambda (x,iterator) : (x,sum(iterator))
example.groupByKey().map(lambda (x,iterator) : (x,list(sum(iterator)))
Run Code Online (Sandbox Code Playgroud)

python iterator apache-spark rdd pyspark

5
推荐指数
1
解决办法
9079
查看次数

标签 统计

apache-spark ×1

iterator ×1

pyspark ×1

python ×1

rdd ×1