小编Erh*_*Kuo的帖子

如何使用Java将unix epoch的列转换为Apache spark DataFrame中的Date?

我有一个json数据文件,其中包含一个属性[creationDate],它是"long"数字类型的unix epoc.Apache Spark DataFrame架构如下所示:

root 
 |-- creationDate: long (nullable = true) 
 |-- id: long (nullable = true) 
 |-- postTypeId: long (nullable = true)
 |-- tags: array (nullable = true)
 |    |-- element: string (containsNull = true)
 |-- title: string (nullable = true)
 |-- viewCount: long (nullable = true)

我想做一些groupBy"creationData_Year",需要从"creationDate"获取.

使用Java 在DataFrame中进行这种转换的最简单方法是什么?

java apache-spark spark-dataframe

6
推荐指数
3
解决办法
1万
查看次数

如何使用Java将一行数组平面映射到Apache spark中的多行?

我有一个json数据文件,其中包含一个属性,它是"tags"的字符串数组.Apache Spark DataFrame架构如下所示:

root
 |-- acceptedAnswerId: long (nullable = true)
 |-- answerCount: long (nullable = true)
 |-- body: string (nullable = true)
 |-- score: long (nullable = true)
 |-- <b>tags</b>: array (nullable = true)
 |    |-- element: string (containsNull = true)
 |-- title: string (nullable = true)
 |-- viewCount: long (nullable = true)
Run Code Online (Sandbox Code Playgroud)

我想在Java中将每一行分成几行.我可以使用Scala找到类似的答案,但无法在Java中转换解决方案.有什么建议吗?

JSON中的"tags"属性如下所示:

"tags":["c#",".net","compression","decompression"]
Run Code Online (Sandbox Code Playgroud)

java dataframe apache-spark apache-spark-sql

3
推荐指数
1
解决办法
6241
查看次数