AWS Athena - GENERIC_INTERNAL_ERROR：分区值的数量与过滤器的数量不匹配

Question

我在 Athena 中查询给出错误的表：GENERIC_INTERNAL_ERROR: Number of partition values does not match number of filters

我能够更早地查询它，但添加了另一个分区（AWS 粘合作业）来尝试优化我稍后将在查询中执行的连接。我确实重新运行了爬虫来更新表以反映分区。

我想知道这个错误实际上意味着什么。

我尝试重新抓取数据，但没有成功。接下来，我将清除底层 S3 数据并从头开始重新处理整个数据集，然后重新对其进行爬网。

SELECT *
FROM mydb.mytable
LIMIT 10

我想了解错误的含义，以及除了重新处理整个原始数据集并重新对其进行爬网之外，是否还有其他解决方法。

Answer 1

我今天遇到了同样的问题。就我而言，这是因为 s3 中的一些底层数据已被删除，因此 Glue 表中的分区数与 s3 中的文件数不匹配。

为了修复它，我只是删除了 Glue 中的表，然后重新运行了爬虫。