我的工作常常挂在这样的信息上:
14/09/01 00:32:18 INFO spark.MapOutputTrackerMasterActor: Asked to send map output locations for shuffle 0 to spark@*:37619
Run Code Online (Sandbox Code Playgroud)
如果有人能够解释Spark在发出此消息时正在做什么,那将会很棒.这条消息是什么意思?用户可能做错了什么?应该调整哪些配置?
这很难调试,因为它不是OOM,它不会给ST,它只是坐着坐着坐着.
至少早在1.0.0这就是Spark的一个问题,并且仍在使用Spark 1.5.0