相关疑难解决方法(0)

在Spark SQL中自动且优雅地展平DataFrame

所有,

是否有一种优雅且可接受的方式来使用嵌套的列展平Spark SQL表(Parquet) StructType

例如

如果我的架构是:

foo
 |_bar
 |_baz
x
y
z
Run Code Online (Sandbox Code Playgroud)

如何在不依靠手动运行的情况下将其选择为展平的表格形式

df.select("foo.bar","foo.baz","x","y","z")
Run Code Online (Sandbox Code Playgroud)

换句话说,如何在a StructType和a下以编程方式获得上述代码的结果DataFrame

scala apache-spark apache-spark-sql

37
推荐指数
4
解决办法
3万
查看次数

标签 统计

apache-spark ×1

apache-spark-sql ×1

scala ×1