小编Add*_*son的帖子

为什么word2vec只对Word2Vec.scala中的mapPartitionsWithIndex执行一项任务:323

我在spark中运行word2vec,当涉及到时fit(),在UI中只观察到一个任务,如图像:

在此输入图像描述.

根据配置,num-executors = 1000, executor-cores = 2.RDD合并到2000个分区.这需要相当长的时间mapPartitionsWithIndex.它可以分发给多个执行者或任务吗?

scala apache-spark word2vec apache-spark-mllib

4
推荐指数
1
解决办法
311
查看次数