如何从属性文件设置 Kafka 参数?

HIR*_*ALA 6 apache-kafka apache-spark spark-streaming

我目前正在做的事情如下:

val topic = "mytopic"
val zkhosts = "localhost"
val zkports = "2181"
Run Code Online (Sandbox Code Playgroud)

在我的代码中设置它然后将它发送到 kafkastream 函数可以工作,但我想从.properties文件中读取它。有没有可能的解决方案?

maa*_*asg 5

鉴于此属性文件位于 /tmp/sample.properties

kafka.topic = "mytopic"
kafka.zkhost = "localhost"
kafka.zkports = 2191
Run Code Online (Sandbox Code Playgroud)

我们可以使用普通的 Java PropertyAPI 来加载属性:

import java.io.FileReader
val configFile = new java.io.File("/tmp/sample.properties")
val reader = new FileReader(configFile)
val props = new Properties()
props.load(reader)
reader.close()
Run Code Online (Sandbox Code Playgroud)

您还可以使用您最喜欢的配置库来加载属性文件,就像在任何其他程序上一样。

例如,您可以使用流行的类型安全配置库。Scala 有很多包装器,但在其原始形式中,您可以执行以下操作:

import com.typesafe.config.ConfigFactory
val configFile = new java.io.File("/tmp/sample.properties")
val kafkaConfig = ConfigFactory.parseFile(configFile)

import java.util.Properties
val kafkaProperties = new Properties()
kafkaProperties.put("zookeeper.hosts", kafkaConfig.getString("kafka.zkhost"))
kafkaProperties.put("zookeeper.port", kafkaConfig.getInt("kafka.zkports"):java.lang.Integer)
kafkaProperties.put("kafka.topic", kafkaConfig.getString("kafka.topic"))
Run Code Online (Sandbox Code Playgroud)

(有很多方法可以使之美观和紧凑。这里我使用的是最常见的形式)