小编Kar*_*Raj的帖子

是否可以从Kafka经纪人的元数据中找到Kafka使用者使用的Kafka客户端版本?

我们希望将我们的Kafka集群从Kafka 0.9。*迁移到0.10。*,并希望进行健全性检查,以确保所有JVM Kafka使用者都已升级为使用Kafka 0.10。*客户端。

java apache-kafka kafka-consumer-api

5
推荐指数
0
解决办法
248
查看次数

kafka-python消费者没有收到消息

我无法KafaConsumer从头开始读取,或从任何其他显式偏移读取.

为同一主题的使用者运行命令行工具,我确实看到带有该--from-beginning选项的消息,否则它会挂起

$ ./kafka-console-consumer.sh --zookeeper {localhost:port} --topic {topic_name} --from-beginning
Run Code Online (Sandbox Code Playgroud)

如果我通过python运行它,它会挂起,我怀疑是由不正确的消费者配置引起的

consumer = KafkaConsumer(topic_name,
                     bootstrap_servers=['localhost:9092'],
                     group_id=None,
                     auto_commit_enable=False,
                     auto_offset_reset='smallest')

print "Consuming messages from the given topic"
for message in consumer:
    print "Message", message
    if message is not None:
        print message.offset, message.value

print "Quit"
Run Code Online (Sandbox Code Playgroud)

输出:

使用来自给定主题的消息(之后挂起)

我使用kafka-python 0.9.5并且代理运行kafka 8.2.不确定究竟是什么问题.

按照dpkp的建议设置_group_id = None_以模拟控制台使用者的行为.

python apache-kafka kafka-consumer-api kafka-python

3
推荐指数
4
解决办法
5411
查看次数

使用适用于 Java 的 AWS 开发工具包生成预签名 URL

我按照https://docs.aws.amazon.com/AmazonS3/latest/dev/ShareObjectPreSignedURLJavaSDK.html中的示例创建预签名 s3 url (v4),当我尝试访问已签名的 s3 url (v4) 时,出现“访问被拒绝”错误网址

<Error>
   <Code>AccessDenied</Code>
   <Message>Access Denied</Message>
   <RequestId>0FB02ECDDF5EAC7B</RequestId>
   <HostId>vA+mmsv9PCunNe5uPkPrmpqqN3vFctQ13c9dIRlKWTYsT0zNA1V9g+4YS+lCItrBlyQtdHpyspg=</HostId>
</Error>
Run Code Online (Sandbox Code Playgroud)

以下是代码片段

public class GeneratePresignedURL {

    public static void main(String[] args) throws IOException {
        String clientRegion = "us-east-1";
        String bucketName = "com-example-bucket";
        String objectKey = "path/to/file.img"; // No leading `/`
        // https://com-example-bucket.s3.amazonaws.com/path/to/file.img

        try { 
            AWSCredentialsProvider awsCredentialsProvider = new DefaultAWSCredentialsProviderChain();

            // Assuming that us-east-1 defaults to v4, couldn't find a way to set it explicitly
            AmazonS3 s3Client = AmazonS3ClientBuilder.standard()
                    .withRegion(clientRegion)
                    .withCredentials(awsCredentialsProvider)
                    .build();

            // Set …
Run Code Online (Sandbox Code Playgroud)

amazon-s3 amazon-web-services pre-signed-url aws-sdk aws-java-sdk

2
推荐指数
1
解决办法
2万
查看次数