【问题标题】:How to truncate Dynamics 365 entities with Data Factory (and copy to Azure data lake)?如何使用数据工厂截断 Dynamics 365 实体(并复制到 Azure 数据湖)?
【发布时间】:2019-04-30 22:55:49
【问题描述】:

我目前正在使用数据工厂将实体从 Dynamics 365 批量复制到 Azure Data Lake。实体每 24 小时在数据湖中保存为 CSV 文件。

我想将实体截断为新数据并附加到数据湖中已经存在的文件,而不是批量复制。

我认为这是 SQL 数据库的常见操作,但是这可以在 Dynamics 365 和 Data Lake 之间完成吗?

【问题讨论】:

    标签: azure dynamics-crm azure-data-factory azure-data-lake azure-data-factory-2


    【解决方案1】:

    您可以在查询中添加过滤器,以获取在过去 24 小时内修改过的记录。

    此外,您可以设置 Dynamics 以将其数据复制到外部 SQL 数据库。

    Replicate data to Azure SQL Database

    【讨论】:

    • 谢谢,我可能会在查询中使用过滤器以 24 小时分块保存数据,并使用单独的 ETL 流程在数据湖端合并/更新/追加。
    【解决方案2】:

    Azure Data Lake Storage Gen2 作为源类型仅支持三种复制行为。

    我尝试了三种应对行为,它们都无法帮助您附加到数据湖中已经存在的文件。如果选择存在文件,当复制活动完成时,存在的文件将被覆盖。

    更多详情,您可以参考:Azure Data Lake storage Gen2 as a source type

    无法在 Dynamics 365 和具有 Azure 数据工厂的数据湖之间完成。

    感谢 James Wood 为我们提供了一个很好的解决方案。结合我的答案和他的答案,问题就解决了。

    希望这会有所帮助。

    【讨论】:

    • 不客气。如果我的回答有帮助,您能采纳吗?谢谢,祝你有美好的一天。
    • 我没有接受它,因为它只解决了一半的问题。这个和@James Wood 答案的组合是可以接受的。
    • 嗨@Chris,我更新了我的答案。感谢詹姆斯伍德。您可以接受答案并让其他人知道您的问题已解决。非常感谢。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-08-01
    • 2022-01-18
    • 1970-01-01
    • 2017-11-18
    • 2021-10-07
    • 1970-01-01
    • 2020-08-21
    相关资源
    最近更新 更多