【问题标题】:Azure Data Factory: Data Lifecycle Management and cleaning up stale dataAzure 数据工厂:数据生命周期管理和清理陈旧数据
【发布时间】:2020-06-20 23:07:46
【问题描述】:

我正在研究降低数据存储成本的要求。它包括以下任务:

  1. 能够根据上次修改日期从文件共享和 Blob 存储中删除文件。
  2. 能够根据上次修改日期更改单个 blob 的层级。

Azure 数据工厂是否具有处理这些任务的内置活动?自动化清理过程的最佳方法是什么?

【问题讨论】:

  • azure blob storage v2 确实有内置功能,文件共享没有这样的功能。
  • @IvanYang,谢谢。虽然我不想使用 Azure Blob 存储生命周期。

标签: azure-data-factory data-cleaning azure-data-factory-2 azure-blob-storage


【解决方案1】:

1.能够根据上次修改日期从文件共享和 Blob 存储中删除文件。

此要求可以通过 ADF 内置方法实现:Delete Activity

请创建一个blob存储数据集,参考这个例子,配置最后修改日期的范围:https://docs.microsoft.com/en-us/azure/data-factory/delete-activity#clean-up-the-expired-files-that-were-last-modified-before-201811

请考虑一些事故后备策略,因为:

2.能够根据上次修改日期更改单个 blob 的层级。

ADF 中没有内置功能来完成此操作。但是,虽然我注意到您的个人资料显示您是 .net 制造商,但请遵循此案例:Azure Java SDK - set block blob to cool storage tier on upload,以便您知道可以在 sdk 代码中更改层级。创建一个 Azure 函数来完成如此简单的任务很容易。此外,ADF 支持Azure Function Activity

【讨论】:

    猜你喜欢
    • 2015-02-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-07-27
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多