我正在尝试重置 kafka 主题特定分区的偏移量,但我没有找到任何命令。
我能够使用以下命令重置主题的所有分区的偏移量,但我只想重置特定分区的偏移量。
适用于所有分区的命令
kafka-consumer-groups.sh -- bootstap-server localhost:1111 -- command-config <file> -- group <group> -- topic <topic> -- reset-offset -- shift-by -1
Run Code Online (Sandbox Code Playgroud)
上述命令不接受分区,并为所有分区重置。如何仅重置特定分区。
我们面临一个问题,我们正在使用 kafka 持久状态存储,并且它经常耗尽空间(8GB),因此我们正在考虑迁移到内存状态存储
Stores.persistenKeyValueStore(“名称”);
到
Stores.inMemoryKeyValueStore(“名称”);
如果我们更改为内存,则有几个问题
切换到内存中还有其他缺点吗?
请注意,我们有流应用程序 (KTable) 并拥有大约 200 万条唯一消息。
每个消息的大小约为 2kb 频率 平均 500 消息/秒
我们正在使用 kafka 流 api 进行聚合,其中我们也使用 group by。我们还使用状态存储来保存输入主题数据。
我注意到的是
Kafka内部创建了3种topic
Changelog-<storeid>-<partition>
Repartition-<storeid>-<partition>
<topicname>-<partition>
我无法理解的是
<topic>-<partition>
数据有什么不同,因此它必须为此保存不同的文件。