pra*_*mgr 5 scala apache-spark
我正在尝试执行以下代码但收到此错误:
value toDF is not a member of Seq[(Int,String)].
我在 main 之外有 case 类,我也导入implicits了。但我仍然收到此错误。有人可以帮我解决这个问题吗?我正在使用Spark 2.11-2.1.0和Scala 2.11.8
import org.apache.spark.sql._
import org.apache.spark.ml.clustering._
import org.apache.spark.ml.feature.VectorAssembler
import org.apache.spark._
final case class Email(id: Int, text: String)
object SampleKMeans {
def main(args: Array[String]) = {
val spark = SparkSession.builder.appName("SampleKMeans")
.master("yarn")
.getOrCreate()
import spark.implicits._
val emails = Seq(
"This is an email from...",
"SPAM SPAM spam",
"Hello, We'd like to offer you")
.zipWithIndex.map(_.swap).toDF("id", "text").as[Email]
}
}
Run Code Online (Sandbox Code Playgroud)
你已经有一个SparkSession你可以import在spark.implicits._将工作你的情况
val spark = SparkSession.builder.appName("SampleKMeans")
.master("local[*]")
.getOrCreate()
import spark.implicits._
Run Code Online (Sandbox Code Playgroud)
现在toDF方法按预期工作。
如果错误仍然存在,您需要检查您正在使用的库的版本spark和scala库。
希望这可以帮助!
| 归档时间: |
|
| 查看次数: |
5162 次 |
| 最近记录: |