Seb*_*tyn 7 java apache-kafka apache-storm
我在我的机器和我的其他机器上安装了Storm 1.1.1,我使用的是Kafka版本0.10.0.1.这两个服务都与Zookeeper 3.4.6版连接
我成功部署了我的拓扑,看起来像这样:
public class SOTopology
{
public static void main (String[] args ) throws Exception
{
final String brokers = args[0];
final String kafkaTopic = args[1];
final String mongo_uri = args[2];
final String mongo_collection = args[3];
TopologyBuilder topology=new TopologyBuilder();
topology.setSpout("KafkaSpout",new KafkaSpout<>(KafkaSpoutConfig.builder(brokers, kafkaTopic).build()), 1);
topology.setBolt("FilterBolt", new Filterbolt(),1).shuffleGrouping("KafkaSpout");
topology.setBolt("TagCountBolt", new TagCountBolt(),1).shuffleGrouping("FilterBolt");
topology.setBolt("TopicBolt", new TopicBolt(),1).shuffleGrouping("FilterBolt");
topology.setBolt("MongoDBBolt",new MongoDBBolt(),1).shuffleGrouping("TagCountBolt").shuffleGrouping("TopicBolt");
Config conf = new Config();
conf.setDebug(true);
conf.put("mongo.uri", mongo_uri);
conf.put("mongo.collection", mongo_collection);
conf.setMaxSpoutPending(40);
conf.setNumWorkers(10);
conf.setDebug(true);
StormSubmitter.submitTopology("StackOverflowTopology", conf, topology.createTopology());
}
}
Run Code Online (Sandbox Code Playgroud)
当我去我的StormUI时,我收到以下消息:Offset lags for kafka not supported for older versions. Please update kafka spout to latest version.我没有使用HDP,但我已经使用了最新的风暴版本,我的storm-clients.jar和storm-kafka-client.jar都是1.1.1版本.有谁知道如何解决这个问题?
编辑:在可能的副本中,他们使用HDP并通过更新他们的HDP集群来修复它.由于我没有在HDP上运行它,我无法真正更新我的HDP群集,我确信我的风暴是正确的版本.
正如链接问题中提到的:解决方案是升级到平台的最新版本。
如果您出于某种原因设法避免分发,这在提出问题时可能是不可能/不切实际的,但几年后的今天,您肯定可以升级。(并且可能已经有了)。
| 归档时间: |
|
| 查看次数: |
194 次 |
| 最近记录: |