我们计划将 AWS MSK 服务用于托管 Kafka 和架构注册表以及 Confluence 的 Kafka Connect 服务来运行我们的连接器(Elasticsearch Sink Connector)。我们计划在 EC2 中运行架构注册表和连接器。
根据 Confluence 团队的说法,如果我们对 Kafka 使用 MSK,他们将无法正式支持 Confluence Schema Registry 和 Kafka Connect。
那么,有谁可以分享一下他们的经验吗?就像 Anybuddy 在生产环境中组合使用 MSK 和 Confluence 服务一样吗?
使用这种组合有风险吗?
是否推荐使用这种组合?
如果我们遇到连接器方面的任何问题,Confluence 社区如何提供支持?
还有其他建议、意见或替代方案吗?
我们已经拥有 Confluence 企业平台许可证,但我们希望拥有托管 Kafka 服务,这就是我们选择 AWS MKS 的原因,因为根据我们的分析,它比 Confluence Cloud 非常经济高效?
请分享您的想法并提前致谢。
谢谢
apache-kafka confluent-schema-registry confluent-cloud aws-msk confluent-platform
说明页面显示为:-
权限失败
“安装:无法创建常规文件‘/usr/local/bin/ccloud’:权限被拒绝”
即使我尝试过
sudo curl -L --http1.1 https://cnfl.io/ccloud-cli | sh -s -- -b /usr/local/bin
Run Code Online (Sandbox Code Playgroud)
同样的错误。我该如何安装?
以 Camel-Quarkus 提供的官方示例为起点,我修改了逻辑,以便写入 Kafka 代理。随着 Camel Kafka 组件指向本地代理,一切都运行良好。
尝试联系我们的 Confluence Cloud 代理时,事情会变得稍微复杂一些。我们使用的安全协议是 SASL_SSL。以下代码片段会导致在该问题末尾添加日志。为了重现,请在此处找到完整的代码https://github.com/LeonardoBonacci/camel-kafka-sasl
final String brokers = "the-kafka-host.confluent.cloud:9092";
final String saslJaasConfig = "org.apache.kafka.common.security.plain.PlainLoginModule required username=\"USERNAME\" password=\"PASSWORD";
from("direct:start")
.setBody(exchange -> "I do not arrive")
.log(LoggingLevel.INFO, "Sending to Kafka: ${body}")
.to("kafka:foo-topic?"
+ "brokers=" + brokers
+ "&saslMechanism=PLAIN"
+ "&securityProtocol=SASL_SSL"
+ "&sslEndpointAlgorithm=HTTPS"
+ "&saslJaasConfig=" + saslJaasConfig);
Run Code Online (Sandbox Code Playgroud)
记录的ProducerConfig似乎是正确的。当我在普通 Kafka Producer 中使用相同的凭据时,除了将记录写入 Kafka 主题之外,它还会打印几乎相同的ProducerConfig。这表明配置值已很好地传播到底层生产者。
解释日志后发现 SSL 握手有效。下一步不太成功: SaslClientAuthenticator尝试失败。
从各种相互矛盾的博客文章和官方文档中,我无法推断出 SASL_SSL 是否实际上受到支持。
谁能帮我解决这个问题吗?非常感激!
2020-11-02 07:16:03,244 …
Run Code Online (Sandbox Code Playgroud)