从Google BigQuery导出到CloudSQL?

p_m*_*mcp 11 google-cloud-storage google-cloud-sql google-bigquery

我想将BigQuery(即报告)中的数据转储到CloudSQL数据库中,以编程方式实现此目的的最佳方法是什么?

我意识到我可以通过运行BigQuery查询,将其下载为CSV,然后通过云控制台上传来手动执行此操作,但我想以编程方式执行此操作,最好是在Python/SQL中.

Vad*_*dim 7

如果要转储整个表,可以结合使用BigQuery和Cloud SQL API来实现此目的.

BigQuery文档在python中有一个API示例,用于将BigQuery表提取到云存储.

数据在云存储中后,您可以使用Cloud SQL Admin API将数据导入MySQL表.

如果需要更精细的控制,可以使用BigQuery API执行查询,获取结果,连接到Cloud SQL实例并插入数据.如果数据量很大,这将无法执行.

更复杂的方法是使用Dataflow将您感兴趣的数据写入云存储,并使用Cloud SQL API导入它.

(为了我自己的好奇心,您能描述一下在Cloud SQL而不是BigQuery中想要数据的用例吗?它将帮助我/我们了解客户如何使用我们的产品以及我们可以改进的地方.)

  • 谢谢,我们的用例是:我们想要在BigQuery中对大数据进行"数字运算",我们希望将每日报告(即基于BQ查询的小得多的数据)输出到MySQL数据库中,以便我们可以轻松地通过Web仪表板/ API (6认同)
  • 如果此操作仍然处于活动状态 - 我们是客户,这样做是为了使用 CloudSQL 作为我们 api 的基础,因为 BigQuery 无法足够快地索引或返回查询来为 API 提供支持。 (2认同)