【发布时间】:2022-11-17 02:49:11
【问题描述】:
我有一个包含从 parquet 到 azure sql 的多个复制活动 (23) 的管道。我遇到低复制吞吐量 (23kb/s) 有没有办法改善这个问题?
集成运行时是 azure 而不是自托管 IR。
【问题讨论】:
我有一个包含从 parquet 到 azure sql 的多个复制活动 (23) 的管道。我遇到低复制吞吐量 (23kb/s) 有没有办法改善这个问题?
集成运行时是 azure 而不是自托管 IR。
【问题讨论】:
数据集成单元 (DIU) 是一种度量,表示 Azure 数据工厂和 Synapse 管道中单个单元的功能。功率是 CPU、内存和网络资源分配的组合。 DIU 仅适用于 Azure 集成运行时。 DIU 不适用于自承载集成运行时。
更多细节: https://learn.microsoft.com/en-us/azure/data-factory/copy-activity-performance
【讨论】:
就像另一个答案所说的那样,增加 DIU 是增加复制活动吞吐量的主要方式。
您可以尝试不同的 DIU 设置来调整复制活动并查看您获得的性能。完成此操作后,我就确定了副本的最大 DIU。使用两倍数量的 DIU 每小时花费两倍的成本,但速度却提高了一倍,所以它并没有变得更贵。
如果增加 DIU 不会提高性能,则可能与“源”和“接收器”中的设置有关。您的镶木地板文件的“来源”是什么?你的 azure sql sink 能处理所有的写入吗?
【讨论】: