问题概述: 在 BigQuery 中,我们可以利用分区来加速查询。通常情况下,我们会使用 WHERE 筛选语句来限制查询的分区。但是目前发现,在有些情况下,分区剪枝的结果不符合预期。
代码示例: 我们将一个包含 100 个分区的表作为例子。首先,我们查询一个全表扫描的 SQL,然后在此基础上进行剪枝:
SELECT COUNT(*) FROM mytable
WHERE date BETWEEN '20190101' AND '20201231'
接下来,在此基础上,我们加入一个 predicate,限定日志级别为 INFO,并让 BigQuery 处理该查询:
SELECT COUNT(*) FROM mytable
WHERE date BETWEEN '20190101' AND '20201231'
AND severity = 'INFO'
此时,我们尝试打开日志查询计划的操作,却发现 BigQuery 仍然在处理 100 个分区而没有剪枝。这表明我们的剪枝并没有生效。
解决方案: 此问题的关键在于 predicate 的位置。正确的做法是将 predicate 放在 WHERE 语句的第一行,这样 BigQuery 才能对其进行分区剪枝。
SELECT COUNT(*) FROM mytable
WHERE severity = 'INFO'
AND date BETWEEN '20190101' AND '20201231'
在这种情况下,BigQuery 会正确地剪枝分区,只处理包含符合条件的分区,而不是所有分区。
总结: 如果你在 BigQuery 中使用分区来加速查询,应该确保正确地使用 WHERE 语句,让 BigQuery 可以正确地剪枝分区,并加速查询。