小编the*_*eek的帖子

Spark无限期等待"要求发送地图输出位置以进行随机播放"

我的工作常常挂在这样的信息上:

14/09/01 00:32:18 INFO spark.MapOutputTrackerMasterActor: Asked to send map output locations for shuffle 0 to spark@*:37619
Run Code Online (Sandbox Code Playgroud)

如果有人能够解释Spark在发出此消息时正在做什么,那将会很棒.这条消息是什么意思?用户可能做错了什么?应该调整哪些配置?

这很难调试,因为它不是OOM,它不会给ST,它只是坐着坐着坐着.

至少早在1.0.0这就是Spark的一个问题,并且仍在使用Spark 1.5.0

hadoop-yarn apache-spark hadoop2

10
推荐指数
1
解决办法
1006
查看次数

标签 统计

apache-spark ×1

hadoop-yarn ×1

hadoop2 ×1