相关疑难解决方法(0)

Spark 2.0缺少火花暗示

使用Spark 2.0,我发现有可能将行的数据帧转换为案例类的数据框.当我尝试这样做的时候,我打招呼说要导入spark.implicits._.我遇到的问题是Intellij没有认识到这是一个有效的导入语句,我想知道是否已经移动并且消息没有更新,或者我的构建设置中没有正确的包,这里是我的build.sbt

libraryDependencies ++= Seq(
  "org.mongodb.spark" % "mongo-spark-connector_2.11" % "2.0.0-rc0",
  "org.apache.spark" % "spark-core_2.11" % "2.0.0",
  "org.apache.spark" % "spark-sql_2.11" % "2.0.0"
)
Run Code Online (Sandbox Code Playgroud)

scala apache-spark spark-dataframe

29
推荐指数
2
解决办法
2万
查看次数

将 Spark DataSet<ROW> 转换为 Java Pojo 类

我正在尝试将 DataSet 转换为 java 对象。架构就像

root
 |-- deptId: long (nullable = true)
 |-- depNameName: string (nullable = true)
 |-- employee: array (nullable = true)
 |    |-- element: struct (containsNull = true)
 |    |    |-- firstName: string (nullable = true)
 |    |    |-- lastName: string (nullable = true)
 |    |    |-- phno: Long (nullable = true)
 |    |    |    |-- element: integer (containsNull = true)
Run Code Online (Sandbox Code Playgroud)

我创建了 pojo 类 Like。

class Department {
  private Long deptId;
  private String depName;
  private List<Employee> employess; …
Run Code Online (Sandbox Code Playgroud)

java-8 apache-spark apache-spark-sql

6
推荐指数
0
解决办法
4911
查看次数