如何使用Java将Spark数据集的所有列转换为字符串

Rah*_*rma 0 java dataframe apache-spark apache-spark-sql

我有一个包含这么多列的数据集,我想使用Java将所有列都转换为字符串。

我尝试了以下步骤,我想知道是否有更好的方法来实现这一目标?

Dataset<Row> ds = ...;
JavaRDD<String[]> stringArrRDD = ds.javaRDD().map(row->{
          int length = row.length();
          String[] columns = new String[length];
          for(int i=0; i<length;i++){
              columns[i] = row.get(i) !=null? row.get(i).toString():"";
          }
       return  columns;});
Run Code Online (Sandbox Code Playgroud)

hi-*_*zir 6

您可以遍历columns

for (String c: ds.columns()) {
    ds = ds.withColumn(c, ds.col(c).cast("string"));
}
Run Code Online (Sandbox Code Playgroud)