“正在确定 DBIO 文件片段的位置...”是什么意思,我该如何加快速度?

Dav*_*dox 12 pyspark-sql databricks

在 Databricks 中运行简单的 SQL 命令时,有时会收到以下消息:

确定 DBIO 文件片段的位置。此操作可能需要一些时间。

这是什么意思,我如何防止它每次都必须执行这种看似昂贵的操作?即使所有基础表都是增量表,也会发生这种情况。

Joe*_*den 6

那是关于增量缓存的消息。它确定在哪些执行器上缓存了什么,以路由任务以获得最佳缓存位置。更频繁地优化你的表,这样文件更少,这会更好。

  • 此外,使用更少的机器也会减少这个时间。 (2认同)