我们希望将我们的Kafka集群从Kafka 0.9。*迁移到0.10。*,并希望进行健全性检查,以确保所有JVM Kafka使用者都已升级为使用Kafka 0.10。*客户端。
我无法KafaConsumer从头开始读取,或从任何其他显式偏移读取.
为同一主题的使用者运行命令行工具,我确实看到带有该--from-beginning选项的消息,否则它会挂起
$ ./kafka-console-consumer.sh --zookeeper {localhost:port} --topic {topic_name} --from-beginning
Run Code Online (Sandbox Code Playgroud)
如果我通过python运行它,它会挂起,我怀疑是由不正确的消费者配置引起的
consumer = KafkaConsumer(topic_name,
bootstrap_servers=['localhost:9092'],
group_id=None,
auto_commit_enable=False,
auto_offset_reset='smallest')
print "Consuming messages from the given topic"
for message in consumer:
print "Message", message
if message is not None:
print message.offset, message.value
print "Quit"
Run Code Online (Sandbox Code Playgroud)
使用来自给定主题的消息(之后挂起)
我使用kafka-python 0.9.5并且代理运行kafka 8.2.不确定究竟是什么问题.
按照dpkp的建议设置_group_id = None_以模拟控制台使用者的行为.
我按照https://docs.aws.amazon.com/AmazonS3/latest/dev/ShareObjectPreSignedURLJavaSDK.html中的示例创建预签名 s3 url (v4),当我尝试访问已签名的 s3 url (v4) 时,出现“访问被拒绝”错误网址
<Error>
<Code>AccessDenied</Code>
<Message>Access Denied</Message>
<RequestId>0FB02ECDDF5EAC7B</RequestId>
<HostId>vA+mmsv9PCunNe5uPkPrmpqqN3vFctQ13c9dIRlKWTYsT0zNA1V9g+4YS+lCItrBlyQtdHpyspg=</HostId>
</Error>
Run Code Online (Sandbox Code Playgroud)
以下是代码片段
public class GeneratePresignedURL {
public static void main(String[] args) throws IOException {
String clientRegion = "us-east-1";
String bucketName = "com-example-bucket";
String objectKey = "path/to/file.img"; // No leading `/`
// https://com-example-bucket.s3.amazonaws.com/path/to/file.img
try {
AWSCredentialsProvider awsCredentialsProvider = new DefaultAWSCredentialsProviderChain();
// Assuming that us-east-1 defaults to v4, couldn't find a way to set it explicitly
AmazonS3 s3Client = AmazonS3ClientBuilder.standard()
.withRegion(clientRegion)
.withCredentials(awsCredentialsProvider)
.build();
// Set …Run Code Online (Sandbox Code Playgroud) amazon-s3 amazon-web-services pre-signed-url aws-sdk aws-java-sdk