我想使用 Spark Streaming 并将其与 Kafka 连接。但是我仍然收到 NoSuchMethodError: org.apache.kafka.clients.consumer.KafkaConsumer.subscribe 错误,现在我不知道下一步该怎么做。
我的设置:
Ubuntu 16.04
斯卡拉 2.11
Kafka 2.11-1.0.0(我也试过使用 2.11-0.10.0.0)
火花2.2.1
Hadoop 2.9.0
我什至无法运行示例脚本:
from pyspark.sql import SparkSession, Row, SQLContext
from pyspark import SparkContext, SparkConf
from pyspark.streaming import StreamingContext
from pyspark.streaming.kafka import KafkaUtils
from pyspark.sql.types import *
sparkSession = SparkSession.builder.appName("example-pyspark-read-and-write").getOrCreate()
# Subscribe to 1 topic
df = sparkSession\
.readStream\
.format("kafka")\
.option("kafka.bootstrap.servers", "localhost:9092")\
.option("kafka.partition.assignment.strategy", "range") \
.option("subscribe", "test")\
.option("startingOffsets", "earliest")\
.load()
query = df.writeStream\
.format("console")\
.start()
query.awaitTermination()
Run Code Online (Sandbox Code Playgroud)
我在 Spark 上运行它使用
spark-submit --master local[2] --jars …Run Code Online (Sandbox Code Playgroud) python apache-kafka apache-spark pyspark spark-structured-streaming
我正在使用ImageOverlay图层使用Leaflet在地图上打印叠加图像.如果我使用可在线访问的图像,即使用Leaflet 示例:
var imageUrl = 'http://www.lib.utexas.edu/maps/historical/newark_nj_1922.jpg',
imageBounds = [[40.712216, -74.22655], [40.773941, -74.12544]];
L.imageOverlay(imageUrl, imageBounds).addTo(map);
Run Code Online (Sandbox Code Playgroud)
一切正常.但是,我想使用base64编码的字符串作为图像.此字符串在我的脚本中的其他位置预先计算.
我应该如何插入这样的字符串而不是URL路径?
PS:我正在使用angularjs.