在 Cloud Build 步骤中执行 BigQuery 查询

Gra*_*ley 4 google-bigquery google-cloud-platform google-cloud-build

我将 Cloud Build 与gcloud构建器一起使用。我将其覆盖,entrypoint以便bq可以在构建步骤中运行一些 BigQuery SQL。以前,我将 SQL 直接嵌入到 Cloud Build 的 YAML 配置中。这工作正常:

steps:
- name: gcr.io/cloud-builders/gcloud
  entrypoint: 'bq'
  args: ['query', '--use_legacy_sql=false', 'SELECT 1']
Run Code Online (Sandbox Code Playgroud)

现在我想将 SQL 从 YAML 重构到一个文件中。根据这里,您可以将cat文件或管道传送到bq. 这可以在命令行上运行,没有任何问题。

但是,我无法让它与 Cloud Build 一起使用。我尝试了很多不同的组合,以及转义字符等,但无论我尝试什么,shell 都不会评估/执行反引号cat my_query.sl,而是认为它是查询本身:

工作正常: 在此输入图像描述

在 Cloud Build 中构建它不会工作:

steps:
- name: gcr.io/cloud-builders/gcloud
  entrypoint: 'bq'
  args: ['query', '--use_legacy_sql=false', '`cat my_query.sql`']
Run Code Online (Sandbox Code Playgroud)

在此输入图像描述

我也尝试通过管道而不是使用cat,但我得到了同样的错误。

我一定在这里遗漏了一些明显的东西,但我看不到它。我可以构建一个自定义 docker 映像,并将所有内容包装在 shell 脚本中,但如果可能的话,我宁愿不必这样做。

如何在构建步骤中使用 Cloud Build 和 shell 评估?

Ell*_*ard 5

您可以创建自定义 Bash 脚本,例如:

#!/bin/bash
if [ $# -eq 0 ]; then
  echo "No arguments supplied"
fi
bq query --use_legacy_sql=false < $1
Run Code Online (Sandbox Code Playgroud)

将其命名为run_query.sh,然后将您的步骤定义为:

steps:
- name: gcr.io/cloud-builders/gcloud
  entrypoint: 'bash'
  args: ['run_query.sh', 'my_query.sql']
Run Code Online (Sandbox Code Playgroud)

免责声明:这是基于阅读文档,但我还没有实际使用过 Cloud Build。