相关疑难解决方法(0)

我正在尝试从 Spark 读取 s3 存储桶直到今天 Spark 总是抱怨请求返回 403

hadoopConf = spark_context._jsc.hadoopConfiguration()
hadoopConf.set("fs.s3a.access.key", "ACCESSKEY")
hadoopConf.set("fs.s3a.secret.key", "SECRETKEY")
hadoopConf.set("fs.s3a.impl", "org.apache.hadoop.fs.s3a.S3AFileSystem")
logs = spark_context.textFile("s3a://mybucket/logs/*)

Spark 说......无效的访问密钥 [ACCESSKEY]

但是，使用相同的 ACCESSKEY 和 SECRETKEY 这与 aws-cli 一起使用

aws s3 ls mybucket/logs/

在 python boto3 中这是有效的

resource = boto3.resource("s3", region_name="us-east-1")
resource.Object("mybucket", "logs/text.py") \
            .put(Body=open("text.py", "rb"),ContentType="text/x-py")

所以我的凭据无效，问题肯定出在 Spark 上。

今天我决定打开整个 Spark 的“调试”日志，令我惊讶的是...... Spark 没有使用我提供的 [SECRETKEY] 而是......添加一个随机的？？？

17/03/08 10:40:04 DEBUG 请求：发送请求：HEAD https://mybucket.s3.amazonaws.com / Headers：（授权：AWS ACCESSKEY：[RANDON-SECRET-KEY]，用户代理：aws -sdk-java/1.7.4 Mac_OS_X/10.11.6 Java_HotSpot(TM)_64-Bit_Server_VM/25.65-b01/1.8.0_65，日期：2017 年 3 月 8 日星期三 10:40:04 GMT，内容类型：application/x -www-form-urlencoded; charset=utf-8, …