小编Abh*_*hek的帖子

Kafka:重置主题特定分区的偏移量

我正在尝试重置 kafka 主题特定分区的偏移量,但我没有找到任何命令。

我能够使用以下命令重置主题的所有分区的偏移量,但我只想重置特定分区的偏移量。

适用于所有分区的命令

kafka-consumer-groups.sh -- bootstap-server localhost:1111 -- command-config <file> -- group <group> -- topic <topic> -- reset-offset -- shift-by -1
Run Code Online (Sandbox Code Playgroud)

上述命令不接受分区,并为所有分区重置。如何仅重置特定分区。

apache-kafka

6
推荐指数
1
解决办法
9432
查看次数

Kafka 持久状态存储与内存状态存储

我们面临一个问题,我们正在使用 kafka 持久状态存储,并且它经常耗尽空间(8GB),因此我们正在考虑迁移到内存状态存储

Stores.persistenKeyValueStore(“名称”);

Stores.inMemoryKeyValueStore(“名称”);

如果我们更改为内存,则有几个问题

  1. 如果经纪人/消费者重新启动,我们会丢失任何数据吗?
  2. 如果内存中的旧数据被刷新,消费者如何获取以前的数据,它是否从代理获取该数据?
  3. 如果它可以从代理获取数据,那么它不会对性能产生影响,因为它是网络调用,而不是在持久状态存储的情况下在本地获取数据。

切换到内存中还有其他缺点吗?

请注意,我们有流应用程序 (KTable) 并拥有大约 200 万条唯一消息。

每个消息的大小约为 2kb 频率 平均 500 消息/秒

apache-kafka apache-kafka-streams

5
推荐指数
1
解决办法
5097
查看次数

Kafka 使用了哪些内部主题?

我们正在使用 kafka 流 api 进行聚合,其中我们也使用 group by。我们还使用状态存储来保存输入主题数据。

我注意到的是

Kafka内部创建了3种topic

  1. Changelog-<storeid>-<partition>
  2. Repartition-<storeid>-<partition>
  3. <topicname>-<partition>

我无法理解的是

  1. 为什么当我拥有所有数据时它会创建变更日志主题 <topic>-<partition>
  2. 重新分区主题是否包含分组后的数据。
  3. 我看到 Changelog 和 topicname-parition 的大小大约相同。

数据有什么不同,因此它必须为此保存不同的文件。

apache-kafka apache-kafka-streams

3
推荐指数
2
解决办法
4111
查看次数

标签 统计

apache-kafka ×3

apache-kafka-streams ×2