获取一系列Spark RDD列

Ric*_*Liu 6 scala apache-spark rdd

现在我的RDD中有300多列,但我发现需要动态选择一系列列并将它们放入LabledPoints数据类型中.作为Spark的新手,我想知道是否有任何索引方式可以在RDD中选择一系列列.像temp_data = data[, 101:211]R中的东西.有类似的东西val temp_data = data.filter(_.column_index in range(101:211)...吗?

任何想法都受到欢迎和赞赏.

Jus*_*ony 2

如果它是一个 DataFrame,那么类似这样的事情应该起作用:

val df = rdd.toDF
df.select(df.columns.slice(101,211) : _*)
Run Code Online (Sandbox Code Playgroud)