我在ubuntu 16.04下在伪群集和群集模式下运行hadoop作业时遇到了一些麻烦.
在运行vanila hadoop/hdfs安装时 - 我的hadoop用户被注销,并且该用户运行的所有进程都被关闭.我没有在日志中看到任何指示(/ var/log/systemd,journalctl或dmesg),这解释了用户注销的原因.
似乎我不是唯一有这个或类似问题的人:
注意:创建特殊的hadoop用户实际上并没有解决我的问题 - 但限制了注销到专用用户.
是否有可能围绕UserGroupInformation类的某些问题(在某些情况下会导致注销),在ubuntu 16.04中systemd中的某些更改可能会导致此行为?
我在注销之前得到的hadoop日志的最后几行:
...
16/07/13 16:45:37 DEBUG ipc.ProtobufRpcEngine: Call: getJobReport took 4ms
16/07/13 16:45:37 DEBUG security.UserGroupInformation: PrivilegedAction
as:hduser (auth:SIMPLE)
from:org.apache.hadoop.mapreduce.Job.updateStatus(Job.java:320)
16/07/13 16:45:37 DEBUG ipc.Client: IPC Client (1360814716) connection to
laptop/127.0.1.1:37339 from hduser sending #375
16/07/13 16:45:37 DEBUG ipc.Client: IPC Client (1360814716) connection to
laptop/127.0.1.1:37339 from hduser got value #375
16/07/13 16:45:37 DEBUG ipc.ProtobufRpcEngine: Call: getJobReport took 2ms
Terminated
hduser@laptop:~$ 16/07/13 16:45:37 DEBUG ipc.Client: stopping client from
cache: …Run Code Online (Sandbox Code Playgroud)