标签: confluent-cloud

AWS MSK 和 Confluence SchemaRegistry 以及 Confluence Kafka 连接如何建议一起使用?

我们计划将 AWS MSK 服务用于托管 Kafka 和架构注册表以及 Confluence 的 Kafka Connect 服务来运行我们的连接器(Elasticsearch Sink Connector)。我们计划在 EC2 中运行架构注册表和连接器。

根据 Confluence 团队的说法,如果我们对 Kafka 使用 MSK,他们将无法正式支持 Confluence Schema Registry 和 Kafka Connect。

那么,有谁可以分享一下他们的经验吗?就像 Anybuddy 在生产环境中组合使用 MSK 和 Confluence 服务一样吗?

使用这种组合有风险吗?

是否推荐使用这种组合?

如果我们遇到连接器方面的任何问题,Confluence 社区如何提供支持?

还有其他建议、意见或替代方案吗?

我们已经拥有 Confluence 企业平台许可证,但我们希望拥有托管 Kafka 服务,这就是我们选择 AWS MKS 的原因,因为根据我们的分析,它比 Confluence Cloud 非常经济高效?

请分享您的想法并提前致谢。

谢谢

apache-kafka confluent-schema-registry confluent-cloud aws-msk confluent-platform

10
推荐指数
1
解决办法
9100
查看次数

Cloud Confluent kafka 安装在 ubuntu 18 中失败

说明页面显示为:-

  1. 安装 Confluent Cloud CLI 运行此命令以安装 Confluent Cloud CLI。curl -L --http1.1 https://cnfl.io/ccloud-cli | sh -s -- -b /usr/local/bin

权限失败

“安装:无法创建常规文件‘/usr/local/bin/ccloud’:权限被拒绝”

即使我尝试过

sudo curl -L --http1.1 https://cnfl.io/ccloud-cli | sh -s -- -b /usr/local/bin 
Run Code Online (Sandbox Code Playgroud)

同样的错误。我该如何安装?

confluent-cloud confluent-platform

3
推荐指数
1
解决办法
391
查看次数

Camel-Kafka 安全协议 SASL_SASL 不起作用

以 Camel-Quarkus 提供的官方示例为起点,我修改了逻辑,以便写入 Kafka 代理。随着 Camel Kafka 组件指向本地代理,一切都运行良好

尝试联系我们的 Confluence Cloud 代理时,事情会变得稍微复杂一些。我们使用的安全协议是 SASL_SSL。以下代码片段会导致在该问题末尾添加日志。为了重现,请在此处找到完整的代码https://github.com/LeonardoBonacci/camel-kafka-sasl

final String brokers = "the-kafka-host.confluent.cloud:9092";
final String saslJaasConfig = "org.apache.kafka.common.security.plain.PlainLoginModule required username=\"USERNAME\" password=\"PASSWORD";

from("direct:start")
    .setBody(exchange -> "I do not arrive")
    .log(LoggingLevel.INFO, "Sending to Kafka: ${body}")
    .to("kafka:foo-topic?" 
         + "brokers=" + brokers
         + "&saslMechanism=PLAIN"  
         + "&securityProtocol=SASL_SSL"
         + "&sslEndpointAlgorithm=HTTPS"
         + "&saslJaasConfig=" + saslJaasConfig);
Run Code Online (Sandbox Code Playgroud)

记录的ProducerConfig似乎是正确的。当我在普通 Kafka Producer 中使用相同的凭据时,除了将记录写入 Kafka 主题之外,它还会打印几乎相同的ProducerConfig。这表明配置值已很好地传播到底层生产者。

解释日志后发现 SSL 握手有效。下一步不太成功: SaslClientAuthenticator尝试失败。

从各种相互矛盾的博客文章和官方文档中,我无法推断出 SASL_SSL 是否实际上受到支持。

谁能帮我解决这个问题吗?非常感激!

2020-11-02 07:16:03,244 …
Run Code Online (Sandbox Code Playgroud)

sasl apache-camel apache-kafka confluent-cloud

3
推荐指数
1
解决办法
3945
查看次数