【发布时间】:2023-01-13 19:35:53
【问题描述】:
我正在从 ADF 启动一个 Databricks 笔记本来执行一些预处理任务。 此笔记本的集群通常不运行,应该只在 ADF 管道也在运行时运行。
但是计算集群需要几分钟才能启动,这当然会减慢管道的执行速度。
我现在的问题是,如果有任何可能,在 ADF 管道的早期阶段触发集群,因此它已经在后台启动,而 ADF 管道的早期阶段仍在运行。像这样,我可以总体上加快流水线。
我已经搜索了数据块菜单以及 ADF 菜单和工具栏,但没有找到解决方案。
谢谢你的帮助!
【问题讨论】:
标签: azure azure-data-factory azure-databricks