小编DaS*_*ShI的帖子

过滤非空WrappedArray上的数据帧

我的问题是我必须在列表中找到这些不是空的.当我使用过滤器函数不是null时,我也得到每一行.

我的程序代码如下所示:

...    
val csc = new CassandraSQLContext(sc)
val df = csc.sql("SELECT * FROM test").toDF()

val wrapped = df.select("fahrspur_liste")
wrapped.printSchema
Run Code Online (Sandbox Code Playgroud)

该列fahrspur_liste包含已包装的数组,我必须分析此列.当我运行代码时,我得到的包装数组和这些条目的结构:

    root
 |-- fahrspur_liste: array (nullable = true)
 |    |-- element: long (containsNull = true)

+--------------+
|fahrspur_liste|
+--------------+
|            []|
|            []|
|          [56]|
|            []|
|          [36]|
|            []|
|            []|
|          [34]|
|            []|
|            []|
|            []|
|            []|
|            []|
|            []|
|            []|
|         [103]|
|            []|
|         [136]|
|            []|
|          [77]| …
Run Code Online (Sandbox Code Playgroud)

arrays scala apache-spark spark-dataframe

5
推荐指数
2
解决办法
6143
查看次数

标签 统计

apache-spark ×1

arrays ×1

scala ×1

spark-dataframe ×1