小编s11*_*230的帖子

如何读取流数据集一次并输出到多个接收器?

我有一个从S3读取的Spark Structured Streaming Job,转换数据然后将其存储到一个S3接收器和一个Elasticsearch接收器.

目前,我做了readStream一次,然后 writeStream.format("").start()两次.这样做似乎Spark从S3源读取数据两次,每个接收器一次.

是否有更有效的方法写入同一管道中的多个接收器?

apache-spark spark-structured-streaming

8
推荐指数
2
解决办法
2654
查看次数