【发布时间】:2019-04-04 02:20:39
【问题描述】:
我正在探索将 S3 blob 增量复制到 azure blob 的方法。我尝试了 azure 数据工厂,但找不到此选项。
S3 拥有数百万个对象,如果没有增量选项,则需要数小时才能完成。
我愿意探索其他工具/选项。
【问题讨论】:
标签: azure amazon-s3 azure-data-factory migrate
我正在探索将 S3 blob 增量复制到 azure blob 的方法。我尝试了 azure 数据工厂,但找不到此选项。
S3 拥有数百万个对象,如果没有增量选项,则需要数小时才能完成。
我愿意探索其他工具/选项。
【问题讨论】:
标签: azure amazon-s3 azure-data-factory migrate
如果您需要每天/每小时增量复制,scheduled/tumbling window 触发器应该是选项。 Here 是一个可供参考的示例。 ADFv2 还支持复制压缩,您可以为 s3 对象指定压缩类型和级别,点击here了解更多信息。
【讨论】: