Arj*_*jen 3 response-time google-bigquery
我正在研究使用BigQuery及其API根据访问者查看的内容进行现场查询的可能性。因此,响应时间至关重要。我已经加载了一个非常简单的结构化数据集,该数据集包含1万行(4列),并运行了一个非常简单的查询,这需要1到2秒钟。我的问题希望很容易回答,是否可以通过以某种方式优化数据来使用BQ API获得<1秒的响应时间?
在此先多谢!
问候,Arjen
BigQuery 专为海量数据集的交互式分析而设计。
\n处理时间预计在几秒内。
同时,期望对较小的数据集运行查询将使运行时低于第二个 \xe2\x80\x93 是不现实的,因为它没有这样设计。
\n无论您拥有什么数据大小 - 您仍然 \xe2\x80\x9cpay\xe2\x80\x9d 所有费用,就像处理大数据集一样。
所以,不幸的是,简短的回答是:
\n今天 \xe2\x80\x93 不!明天\xe2\x80\x93 不!\xe2\x80\x93 之后的第二天你永远不会知道,但我不\xe2\x80\x99t这么认为,除非 BigQuery 会演变成其他东西
BigQuery不是联机事务处理(OLTP)数据库,而是一个交互式分析数据库,可在几秒钟内扫描数TB的数据。虽然查询时间非常一致,但由于它是共享服务,因此无法保证查询时间,即,运行2秒的查询可能在不同的时间段运行1.5秒或3秒。由于BigQuery的性质和内部因素,目前小于1s的查询时间是不现实的。
流行的设计模式之一是让BigQuery繁重地对数据进行复杂的分析,然后将结果存储在OLTP(如mySQL)甚至内存(如Redis)数据库中,然后从那里将结果提供给客户端。您可以通过在后台运行查询来定期更新数据。
| 归档时间: |
|
| 查看次数: |
703 次 |
| 最近记录: |