小编Jua*_*uan的帖子

Spark如何管理阶段?

我试图了解如何在spark中定义作业和阶段,为此我现在使用我在这里找到的代码并激发UI.为了在spark UI上看到它,我不得不多次将文本复制并粘贴到文件上,因此需要更多时间来处理.

这是spark UI的输出:

工作

现在,我明白有三个工作因为有三个动作,而且由于随机动作而产生阶段,但我不明白为什么在工作1阶段4,5和6与阶段相同作业0的0,1和2与作业2相同.

我怎么知道哪些阶段不仅仅是一个只看到java代码的工作(在执行任何事情之前)?而且,为什么跳过第4和第9阶段,我怎么知道它会在执行之前发生?

apache-spark

7
推荐指数
1
解决办法
1810
查看次数

标签 统计

apache-spark ×1