【问题标题】:How we can preserve provenance and lineage in MarkLogic我们如何在 MarkLogic 中保留出处和血统
【发布时间】:2020-04-30 20:14:27
【问题描述】:

我们如何在 MarkLogic 中保留出处和血统?

信封模式的用例是什么?

在从数据源导出数据时,是否有任何方法可以跟踪数据沿袭?

【问题讨论】:

    标签: java rest marklogic marklogic-9 data-lineage


    【解决方案1】:

    您可能对 MarkLogic 感兴趣 Tracking Data Provenance on-demand tutorial

    在数据治理系列的第 1 集中,您将探索数据来源的概念。您将了解跟踪数据出处或数据来源对于理解数据及其沿袭至关重要。在使用 MarkLogic 数据中心框架和信封模式集成数据孤岛时,您将亲身体验并学习如何实现这一目标。

    该概念应用于 MarkLogic Data Hub

    MarkLogic Data Hub Provenance and Lineage

    在 MarkLogic 中,出处跟踪数据的来源,沿袭是数据的历史。出处元数据是由 MarkLogic 数据中心跟踪的出处信息和沿袭信息的组合集。在 MarkLogic Server 中,从摄取到其生命周期对记录所做的每次更改都会更新出处信息。

    所有出处和沿袭信息都作为 XML 文档(使用 PROV XML 模式)存储在 data-hub-JOBS 数据库中,并添加到受保护的集合 http://marklogic.com/provenance-services/record。创建出处和沿袭记录时,还会生成定义信息片段之间关系的三元组。

    设计模式在这个博客中解释

    Triple Provenance with Document Annotations Design Pattern

    在构建利用来自不同来源的数据的应用程序时,尤其是在语义上下文中,通常希望捕获来源信息,例如来源和上次更新时间。

    使用Envelope Pattern,用出处细节注释三元组的 JSON/XML 序列化。

    【讨论】:

    • 除了使用 Mark logic Data hub framework 之外,还有其他方法可以通过使用 Java 方法或 X -..Query 来实现 Data Provenance。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-10-09
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-03-15
    相关资源
    最近更新 更多