JVM 的推荐设置如下所示
-Xmx8g -Xms8g -XX:MetaspaceSize=96m -XX:+UseG1GC -XX:MaxGCPauseMillis=20 -XX:InitiatingHeapOccupancyPercent=35 -XX:G1HeapRegionSize=16M -XX:MinMetaspaceFreeRatio=50 -XX:MaxMetaspaceFreeRatio=80
Run Code Online (Sandbox Code Playgroud)
我的问题是 - 如何为 Kafka 设置上述 Java 选项?
我确信我们可以设置
export KAFKA_HEAP_OPTS="-Xmx8G -Xms8G"
Run Code Online (Sandbox Code Playgroud)
但不确定我们是否可以附加整行
"-Xmx8g -Xms8g -XX:MetaspaceSize=96m -XX:+UseG1GC -XX:MaxGCPauseMillis=20 -XX:InitiatingHeapOccupancyPercent=35 -XX:G1HeapRegionSize=16M -XX:MinMetaspaceFreeRatio=50 -XX:MaxMetaspaceFreeRatio=80"
Run Code Online (Sandbox Code Playgroud)
到KAFKA_HEAP_OPTS变量
参考 - https://community.hortonworks.com/articles/80813/kafka-best-practices-1.html
我们有一个旧的hadoop集群机器hadoop-版本2.6
集群中的所有计算机均为Redhat版本-7.3
我们在启动最后一台主计算机上的备用名称节点时遇到问题
从日志(在/ var / log / hadoop / hdf下),我们可以看到错误-未找到有效的图像文件
我不确定我的解决方案,但这是否意味着我们需要删除/ hadoop / hdfs / journal / hdfsha / current下的文件-(edits_inprogress_XXXXX),然后重新启动备用名称节点服务?
2018-01-24 16:10:27,826 ERROR namenode.NameNode (NameNode.java:main(1774)) - Failed to start namenode.
java.io.FileNotFoundException: No valid image files found
at org.apache.hadoop.hdfs.server.namenode.FSImageTransactionalStorageInspector.getLatestImages(FSImageTransactionalStorageInspector.java:165)
at org.apache.hadoop.hdfs.server.namenode.FSImage.loadFSImage(FSImage.java:618)
at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:289)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFSImage(FSNamesystem.java:1045)
at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.loadFromDisk(FSNamesystem.java:703)
at org.apache.hadoop.hdfs.server.namenode.NameNode.loadNamesystem(NameNode.java:688)
at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:752)
at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:992)
at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:976)
at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1701)
at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1769)
2018-01-24 16:10:27,829 INFO util.ExitUtil (ExitUtil.java:terminate(124)) - Exiting with status 1
2018-01-24 16:10:27,845 INFO namenode.NameNode …
Run Code Online (Sandbox Code Playgroud)