如何使用 Google Cloud Composer CLI 设置 AWS 凭证？

Question

我想从我的云编写器管理的气流系统访问 AWS 服务。我不想从气流 UI 中进行设置——我想使用充当 CLI 的 Google Cloud SDK 来完成此操作。

我唯一的选择是使用 CLIenv-variables选项吗？如果是这样，我只需设置AWS_ACCESS_KEY_ID和AWS_SECRET_ACCESS_KEYenv 变量就足够了吗？或者我是否需要设置大量特定于气流的连接变量，例如 s3 AIRFLOW_CONN_S3_DEFAULT？

Answer 1

您可以使用gcloudcomposerenvironmentrun通过 Cloud ComposerSDKCLI 传输气流命令。例如：

gcloud config set composer/location {your-env-location}
gcloud composer environments run {your-env-name} connections -- -a --conn_id your-aws-id --conn_type aws {any other connection details}

因此，如果您想更新aws_default名为 的环境的连接my-env，您首先需要使用以下命令删除预先存在的条目（此 connection_id 由气流预先填充）：

gcloud composer environments run my-env connections -- -d --conn_id aws_default

然后添加您的凭据，如下所示：

gcloud composer environments run data-lake connections -- -a --conn_id aws_default --conn_type aws --conn_extra '{"region_name": "us-east-1", "aws_access_key_id":"YOUR_ACCESS_KEY_HERE", "aws_secret_access_key": "YOUR_SECRET_KEY_HERE"}'

当然，您需要相应地更新 AWS 区域名称和信用。