有没有办法将Avro结构转换为SchemaRDD?我在https://issues.apache.org/jira/browse/SPARK-2736中看到了JavaRDD的示例,但无法找到任何创建SchemaRDD的内容.
有一个链接显示如何将SchemaRDD转换为Avro,但我想知道Spark 1.1中是否提供了一些内容
是的,有一个单独的包可以让您执行此操作:https ://github.com/databricks/spark-avro
截至目前,它允许您执行 Avro -> SparkSQL 和 SparkSQL -> Avro。
它不太可能被添加到 Spark 本身以控制项目范围,但有许多有用的 Spark 包正在 Spark 之外开发。如需了解更多信息,请访问http://spark-packages.org/
归档时间: |
|
查看次数: |
649 次 |
最近记录: |