如何修复 Hadoop 警告:在 Ubuntu 上发生了非法反射访问操作错误

Ama*_*Kar 15 java ubuntu hadoop hadoop2

我已经安装了 Javaopenjdk version "10.0.2"并且Hadoop 2.9.0成功了。所有进程都运行良好

hadoopusr@amalendu:~$ jps
19888 NameNode
20388 DataNode
20898 NodeManager
20343 SecondaryNameNode
20539 ResourceManager
21118 Jps
Run Code Online (Sandbox Code Playgroud)

但是当我尝试执行任何命令时,例如hdfs dfs -ls /收到此警告

hadoopusr@amalendu:~$ hdfs dfs -ls /
WARNING: An illegal reflective access operation has occurred
WARNING: Illegal reflective access by org.apache.hadoop.security.authentication.util.KerberosUtil (file:/usr/local/hadoop/share/hadoop/common/lib/hadoop-auth-2.9.0.jar) to method sun.security.krb5.Config.getInstance()
WARNING: Please consider reporting this to the maintainers of org.apache.hadoop.security.authentication.util.KerberosUtil
WARNING: Use --illegal-access=warn to enable warnings of further illegal reflective access operations
WARNING: All illegal access operations will be denied in a future release
18/09/04 00:29:24 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Run Code Online (Sandbox Code Playgroud)

请帮助如何解决这个问题。这是我的 ~/.bashrc 文件配置

export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
Run Code Online (Sandbox Code Playgroud)

Eug*_*ene 13

您对这些警告无能为力,这与拼图项目和强(er)封装有关。

基本上有一些类sun.security.krb5.Config称为java.security.jgss. 该模块“定义”了它导出的内容(其他人可以使用它的内容)以及输出给谁。这也意味着用简单的英语,这不是供公众使用的——不要碰它;做得好hadoop,这是他们解决这个问题的努力的一部分。您可以报告此问题或尝试升级hadoop,可能已经修复了。

  • 您可以使用 --add-opens 选项临时打开 sun.security.krb5 包。这将消除警告,但重要的是要确保 Hadoop 维护人员意识到这个问题。一旦 JDK 内部被完全封装,那么像这样的黑客就会中断。 (3认同)
  • 先生,我删除了 java 11 并安装了 java 8,所有都消失了,但“警告 util.NativeCodeLoader:无法为您的平台加载本机 hadoop 库......在适用的情况下使用内置 java 类”这种情况。 (2认同)
  • @AmalenduKar 该消息意味着 hadoop 本机库是 32 位编译的,并且您在 64 位设置上运行。对于小型 Hadoop 设置,您可以忽略该消息。 (2认同)

小智 5

这已在 Hadoop 3.3 和 3.2.2 中通过修复。 https://issues.apache.org/jira/browse/HADOOP-10848