hadoop中job.submit和job.waitForComplete有什么区别?

Eas*_*onk 5 hadoop

我已阅读文档,所以我知道不同之处.

我的问题是,如果我想并行运行多个Hadoop作业,那么使用.submit而不是waitForComplete是否有任何风险?

我大多使用弹性贴图减少.

当我尝试这样做时,我注意到只有第一份工作正在执行.

Ama*_*mar 4

如果您的目标是并行运行作业,那么使用job.submit(). 存在的主要原因job.waitForCompletion是它的方法调用仅在作业完成时返回,并且返回成功或失败状态,可用于确定是否运行进一步的步骤。

现在,回过头来看,您只看到正在执行的第一个作业,这是因为默认情况下 Hadoop 按 FIFO 顺序安排作业。你当然可以改变这种行为。在这里阅读更多内容。