【问题标题】:Consistency checks in dbt Clouddbt Cloud 中的一致性检查
【发布时间】:2022-07-12 23:24:59
【问题描述】:

目标是将数据集源中的数据与清洗、建模和摄取到数据仓库后的数据进行比较,并在不匹配的情况下发送警报。 这可以使用 dbt Cloud 还是我应该使用 Python

【问题讨论】:

    标签: python testing automated-tests integration-testing dbt


    【解决方案1】:

    如果您所说的“来源”是指不同的数据库,那么在将其摄取到您的数据仓库之前,我建议使用datadiff

    一旦数据进入您的仓库,您就可以使用 dbt 来比较两个不同的表(假设在您的原始或源架构和最终建模架构中)。

    dbt-utils 中有很多针对此的测试。如果您需要更强大或更复杂的测试,您也可能对dbt-expectations 感兴趣。

    【讨论】:

      猜你喜欢
      • 2011-02-19
      • 2019-12-31
      • 2011-04-28
      • 1970-01-01
      • 2023-01-11
      • 1970-01-01
      • 2012-08-23
      • 2021-11-12
      • 1970-01-01
      相关资源
      最近更新 更多