小编use*_*020的帖子

Scala RDD的解决方法不是协变的

我正在尝试编写一个函数来操作RDD [Seq [String]]对象,例如:

def foo(rdd: RDD[Seq[String]]) = { println("hi") }
Run Code Online (Sandbox Code Playgroud)

无法在RDD [Array [String]]类型的对象上调用此函数:

val testRdd : RDD[Array[String]] = sc.textFile("somefile").map(_.split("\\|", -1))
foo(testRdd)

->
error: type mismatch;
found   : org.apache.spark.rdd.RDD[Array[String]]
required: org.apache.spark.rdd.RDD[Seq[String]]
Run Code Online (Sandbox Code Playgroud)

我想这是因为RDD不是协变的.

我已经尝试了一堆foo的定义来解决这个问题.其中只有一个编译过:

def foo2[T[String] <: Seq[String]](rdd: RDD[T[String]]) = { println("hi") }
Run Code Online (Sandbox Code Playgroud)

但它仍然被打破:

foo2(testRdd)


->
<console>:101: error: inferred type arguments [Array] do not conform to method foo2's type
parameter bounds [T[String] <: Seq[String]]
          foo2(testRdd)
          ^
<console>:101: error: type mismatch;
found   : org.apache.spark.rdd.RDD[Array[String]]
required: org.apache.spark.rdd.RDD[T[String]]
Run Code Online (Sandbox Code Playgroud)

知道如何解决这个问题吗?这一切都发生在Spark shell中.

types scala covariance apache-spark

7
推荐指数
1
解决办法
1638
查看次数

标签 统计

apache-spark ×1

covariance ×1

scala ×1

types ×1