无法在OS X 10.8上启动Hadoop YARN的nodemanager

Question

启动所有其他节点后,当我尝试启动nodemanager时,它似乎已被打开然后自动终止.如下:

Yitongs-MacBook-Pro:hadoop timyitong$ sbin/yarn-daemon.sh start nodemanager
starting nodemanager, logging to /Users/timyitong/Dev/hadoop/logs/yarn-timyitong-nodemanager-Yitongs-MacBook-Pro.local.out
Yitongs-MacBook-Pro:hadoop timyitong$ jps
8981 DataNode
9300 Jps
9139 JobHistoryServer
8932 NameNode
9038 ResourceManager

我没有得到任何错误,任何异常,但nodemanger不存在.当我试图阻止它时,它会像这样说(stopnodes.sh只是一个脚本),它确认了nodemanager不存在:

Yitongs-MacBook-Pro:hadoop timyitong$ sh stopnodes.sh 
stopping namenode
stopping datanode
stopping resourcemanager
no nodemanager to stop
stopping historyserver

而且我不确定是否因为nodemanager没有启动,当我尝试运行示例wordcount程序时,我总是让我的任务永远待定.

我的环境是OS X 10.8,Hadoop YARN 2.2.0.我已经解决了java版本问题export JAVA_HOME=$(/usr/libexec/java_home -v 1.6).

Answer 1

实际上,我曾经bin/yarn nodemanger直接启动服务器并发现了问题.在我的yarn-site.xml位置,我不应该设置yarn.nodemanager.aux-services包含点(.)的名称mapreduce.shuffle.变更后mapreduce.shuffle到mapreduce_shuffle,问题就解决了.

真的不明白为什么它不允许点,因为我根据这个博客文章配置一切,这个设置似乎很好.

<property>
   <name>yarn.nodemanager.aux-services</name>
   <value>mapreduce.shuffle</value>
</property>
<property>
   <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
   <value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>

</configuration>