相关疑难解决方法(0)

"重新平衡"在Apache Kafka上下文中意味着什么?

我是Kafka的新用户,现在已经试用了大约2-3周.我相信目前我已经很好地理解了Kafka在大多数情况下的工作原理,但是在尝试为我自己的Kafka消费者设计API之后(这是模糊不清的但是我遵循了新的KafkaConsumer应该遵循的准则可用于v 0.9,它出现在'trunk'repo atm上)如果我有多个具有相同groupID的消费者,我就会从主题中消耗延迟问题.

在此设置中,我的控制台始终记录有关"重新平衡触发"的问题.当我向消费者群体添加新的消费者时,是否会发生重新平衡,并且为了找出同一个群组ID中的哪个消费者实例将获得哪些分区或完全用于其他内容的重新平衡而触发它们?

我也从https://cwiki.apache.org/confluence/display/KAFKA/Kafka+0.9+Consumer+Rewrite+Design中看到了这段话,我似乎无法理解它,所以如果有人能帮助我做感觉非常感激:

重新平衡是一组消费者实例(属于同一组)协调以拥有该组订阅的互斥主题分区集的过程.在成功完成消费者组的重新平衡操作结束时,所有订阅主题的每个分区都将由该组中的单个消费者实例拥有.重新平衡的工作方式如下.每个经纪人都被选为消费者群体子集的协调者.组的协调代理负责协调有关订阅主题的使用者组成员身份更改或分区更改的重新平衡操作.它还负责将生成的分区所有权配置传递给正在进行重新平衡操作的组的所有使用者.

apache-kafka kafka-consumer-api

39
推荐指数
3
解决办法
4万
查看次数

Kafka消费者(组)触发重新平衡的条件

我正在查看Kafka的Consumer Config。

触发重新平衡的参数是什么?例如,以下参数将为?。我们需要更改或将其设为默认值的任何其他参数

connections.max.idle.ms在此配置指定的毫秒数后关闭空闲连接。长540000中

另外,我们有三个不同的主题

  1. 具有来自多个主题的相同消费者组(相同ID)是一个坏主意吗?
  2. 假设上述情况是否有效(不一定是最佳实践)-如果主题之一是流量非常小,将导致消费者组重新平衡。

    后续问题-哪些因素会影响再平衡及其性能。

apache-kafka kafka-consumer-api

6
推荐指数
1
解决办法
3314
查看次数

标签 统计

apache-kafka ×2

kafka-consumer-api ×2