小编Ran*_*air的帖子

ClassNotFoundException:由以下原因引起:java.lang.ClassNotFoundException:csv.DefaultSource

我正在尝试创建程序集 jar 可执行文件但出现以下错误

Caused by: java.lang.ClassNotFoundException: csv.DefaultSource

问题出在读取的 CSV 文件上。该代码在 IDE 中运行良好。请帮我

Scala代码如下

package extendedtable

import org.apache.log4j.{Level, Logger}
import org.apache.spark.SparkContext
import org.apache.spark.sql.{DataFrame, Row, SparkSession}
import scala.collection.mutable.ListBuffer

object mainObject {

 // var read = new fileRead
  def main(args: Array[String]): Unit = {
    val spark: SparkSession = SparkSession.builder().appName("generationobj").master("local[*]").config("spark.sql.crossJoin.enabled", value = true).getOrCreate()
    val sc: SparkContext = spark.sparkContext
    import spark.implicits._

    val atomData = spark.read.format("csv")
      .option("header", "true")
      .option("inferSchema", "true")
      .load("Resources/atom.csv")

    val moleculeData = spark.read.format("csv")
      .option("header", "true")
      .option("inferSchema", "true")
      .load("Resources/molecule.csv")

    val df = moleculeData.join(atomData,"molecule_id")
    val molecule_df …
Run Code Online (Sandbox Code Playgroud)

scala apache-spark

1
推荐指数
1
解决办法
1264
查看次数

标签 统计

apache-spark ×1

scala ×1