【问题标题】:Re-running Failed SubDAGs重新运行失败的 SubDAG
【发布时间】:2018-04-20 17:56:23
【问题描述】:

我一直在玩 SubDAG。我遇到的一个大问题是,每当 SubDAG 中的某些东西发生故障时,我通过点击 Clear 重新运行,只有清除的任务会重新运行;成功不会传播到 SubDAG 中的下游任务并使它们运行。

如何在 SubDAG 中重新运行失败的任务,以使下游任务正确流动?现在,我必须从字面上重新运行失败任务下游的 SubDAG 中的每个任务。

我认为我遵循了 SubDAG 的最佳做法; SubDAG 尽可能继承父 DAG 属性(包括schedule_interval),并且我不会在 UI 中打开 SubDAG;父 DAG 已打开并改为触发它。

【问题讨论】:

标签: python airflow airflow-scheduler


【解决方案1】:

一种解决方法,但如果您始终如一地给您的任务task_id-s,您可以尝试从 Airflow CLI(命令行界面)进行回填:

airflow backfill -t TASK_REGEX ... dag_id

其中TASK_REGEX 对应于您要重新运行的任务及其依赖项的命名模式。

(记得添加the command line options 的其余部分,如--start_date)。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2011-12-05
    • 1970-01-01
    • 2013-05-20
    • 2019-07-17
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多