【发布时间】:2022-07-12 23:24:59
【问题描述】:
目标是将数据集源中的数据与清洗、建模和摄取到数据仓库后的数据进行比较,并在不匹配的情况下发送警报。 这可以使用 dbt Cloud 还是我应该使用 Python
【问题讨论】:
标签: python testing automated-tests integration-testing dbt
目标是将数据集源中的数据与清洗、建模和摄取到数据仓库后的数据进行比较,并在不匹配的情况下发送警报。 这可以使用 dbt Cloud 还是我应该使用 Python
【问题讨论】:
标签: python testing automated-tests integration-testing dbt
如果您所说的“来源”是指不同的数据库,那么在将其摄取到您的数据仓库之前,我建议使用datadiff。
一旦数据进入您的仓库,您就可以使用 dbt 来比较两个不同的表(假设在您的原始或源架构和最终建模架构中)。
dbt-utils 中有很多针对此的测试。如果您需要更强大或更复杂的测试,您也可能对dbt-expectations 感兴趣。
【讨论】: