如何在执行“org.apache.spark.sql.DataSet.collectAsList()”时修复“不支持的类文件主要版本 55”

Question

我正在创建一个 Java RESTAPI Spring Boot 应用程序，它使用 spark 从服务器获取一些数据。当我尝试从数据集转换为列表时它失败了。

我试过 jdk8 和 jdk11 来编译和执行代码，但我得到了相同的 'java.lang.IllegalArgumentException: Unsupported class file major version 55'，过去，我通过更新 Java 版本解决了这个问题，但它是不为此工作。

我正在使用：

• JDK 11.0.2

• 春季启动 2.1.4

• 火花2.4.2

这是我正在执行的代码：

Dataset<Row> dataFrame = sparkSession.read().json("/home/data/*.json");
        dataFrame.createOrReplaceTempView("events");
        Dataset<Row> resultDataFrame = sparkSession.sql("SELECT * FROM events WHERE " + predicate); 
        Dataset<Event> eventDataSet = resultDataFrame.as(Encoders.bean(Event.class));
        return eventDataSet.collectAsList();

查询有效，实际上在调试时您可以在 resultDataFrame 和 eventDataSet 中看到信息。

我希望输出是一个正确的事件列表，但我收到了异常：

[http-nio-8080-exec-2] ERROR org.apache.catalina.core.ContainerBase.[Tomcat].[localhost].[/].[dispatcherServlet] - Servlet.service() for servlet [dispatcherServlet] in context with path [] threw exception [Request processing failed; nested exception is java.lang.IllegalArgumentException: Unsupported class file major version 55] with root cause
java.lang.IllegalArgumentException: Unsupported class file major version 55
    at org.apache.xbean.asm6.ClassReader.<init>(ClassReader.java:166)
    at org.apache.xbean.asm6.ClassReader.<init>(ClassReader.java:148)
    at org.apache.xbean.asm6.ClassReader.<init>(ClassReader.java:136)
    at org.apache.xbean.asm6.ClassReader.<init>(ClassReader.java:237)
    at org.apache.spark.util.ClosureCleaner$.getClassReader(ClosureCleaner.scala:49)
    at org.apache.spark.util.FieldAccessFinder$$anon$3$$anonfun$visitMethodInsn$2.apply(ClosureCleaner.scala:517)
    at org.apache.spark.util.FieldAccessFinder$$anon$3$$anonfun$visitMethodInsn$2.apply(ClosureCleaner.scala:500)
    at scala.collection.TraversableLike$WithFilter$$anonfun$foreach$1.apply(TraversableLike.scala:733)
    at scala.collection.mutable.HashMap$$anon$1$$anonfun$foreach$2.apply(HashMap.scala:134)
    at scala.collection.mutable.HashMap$$anon$1$$anonfun$foreach$2.apply(HashMap.scala:134)
    at scala.collection.mutable.HashTable$class.foreachEntry(HashTable.scala:236)
    at scala.collection.mutable.HashMap.foreachEntry(HashMap.scala:40)
    at scala.collection.mutable.HashMap$$anon$1.foreach(HashMap.scala:134)
    at scala.collection.TraversableLike$WithFilter.foreach(TraversableLike.scala:732)
    at org.apache.spark.util.FieldAccessFinder$$anon$3.visitMethodInsn(ClosureCleaner.scala:500)
.....

评论更新：对于 Java 8，我将 pom 更改为针对 Java 8：

<java.version>1.8</java.version>

然后更新项目，maven clean，maven install 然后运行。获得相同的版本 55 错误

Answer 1

从 spark-core 依赖项中排除默认 XBean 工件并添加最新版本的 XBean 工件，它对我有用。

<dependencies>
    <dependency>
        <groupId>org.apache.xbean</groupId>
        <artifactId>xbean-asm6-shaded</artifactId>
        <version>4.10</version>
    </dependency>
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-core_2.11</artifactId>
        <version>2.4.1</version>
        <exclusions>
            <exclusion>
                <groupId>org.apache.xbean</groupId>
                <artifactId>xbean-asm6-shaded</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
</dependencies>

Answer 2

问题的根本原因是我瞄准了错误的 JDK 的符号链接，这就是它不起作用的原因。JAVA_HOME 的目标是 jdk11，而 Eclipse 正在运行。