【问题标题】:How do I increase copy activity throughput in Azure data factory如何增加 Azure 数据工厂中的复制活动吞吐量
【发布时间】:2022-11-17 02:49:11
【问题描述】:

我有一个包含从 parquet 到 azure sql 的多个复制活动 (23) 的管道。我遇到低复制吞吐量 (23kb/s) 有没有办法改善这个问题?

集成运行时是 azure 而不是自托管 IR。

【问题讨论】:

    标签: azure azure-data-factory


    【解决方案1】:

    数据集成单元 (DIU) 是一种度量,表示 Azure 数据工厂和 Synapse 管道中单个单元的功能。功率是 CPU、内存和网络资源分配的组合。 DIU 仅适用于 Azure 集成运行时。 DIU 不适用于自承载集成运行时。

    更多细节: https://learn.microsoft.com/en-us/azure/data-factory/copy-activity-performance

    【讨论】:

      【解决方案2】:

      就像另一个答案所说的那样,增加 DIU 是增加复制活动吞吐量的主要方式。

      您可以尝试不同的 DIU 设置来调整复制活动并查看您获得的性能。完成此操作后,我就确定了副本的最大 DIU。使用两倍数量的 DIU 每小时花费两倍的成本,但速度却提高了一倍,所以它并没有变得更贵。

      如果增加 DIU 不会提高性能,则可能与“源”和“接收器”中的设置有关。您的镶木地板文件的“来源”是什么?你的 azure sql sink 能处理所有的写入吗?

      【讨论】:

        猜你喜欢
        • 2018-11-25
        • 2022-01-04
        • 1970-01-01
        • 1970-01-01
        • 2020-09-15
        • 2020-07-02
        • 2023-01-31
        • 1970-01-01
        • 2019-01-23
        相关资源
        最近更新 更多