【问题标题】:Airflow: DAG marked successful, but task was not scheduled气流:DAG 标记为成功,但未安排任务
【发布时间】:2020-12-14 12:56:59
【问题描述】:

我有一个稍微复杂的设置: 我在本地时间运行我的 Airflow (v1.10.13) 管道(在 VM 的时区设置)。以下 DAG 被标记为星期一运行成功,但其中的任务从未计划过(因此没有任何日志)。过去,我在使用 Airflow 调度程序和使用非 UTC 时区时遇到了一些问题,所以我想知道这是否是另一个原因?

from airflow import DAG
from datetime import timedelta
from somewhere import get_localized_yesterday
import prepered_tasks as t

default_args = {
    'owner': 'airflow',
    'depends_on_past': False,
    'start_date': get_localized_yesterday(),
    'email': [],
    'email_on_failure': True,
    'email_on_retry': False,
    'retry_delay': timedelta(minutes=1)
}

# Schedule the DAG daily at 2 a.m.
dag = DAG(
    'descriptive_DAG_name',
    default_args=default_args,
    description='',
    schedule_interval='0 2 * * Mon-Fri',
    tags=['PROD']
)
single_task = t.task_partial(dag=dag)
single_task

'task_partial'是一个嵌入在partial中的任务对象,所以我只需要提供dag进行实例化。这在其他正常工作的管道中按预期工作。

我检查了通常的嫌疑人:

  • 调度程序正在运行。
  • 工人正在奔跑。
  • DAG 在 UI 中打开。
  • 其他管道运行正常。
  • 不依赖于以前的运行。
  • 开始日期早在过去。

【问题讨论】:

    标签: airflow airflow-scheduler


    【解决方案1】:

    airflow 1.10.13 中存在一个错误,发布被取消。

    您应该升级到 1.10.14。

    参见the issuethe fix

    引用问题:

    升级到 v1.10.13 后,我们注意到我们的一些 DAG 中的任务没有被安排。经过一番调查,我们发现通过注释掉 'depends_on_past': True 问题就消失了。

    【讨论】:

    • 感谢您的链接!我会尝试更新,但我只能在明年进行。 :)
    • 更新:我做了更新,今天早上还是和以前一样:DAG标记为成功,任务没有状态。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-05-20
    • 2017-01-01
    • 1970-01-01
    相关资源
    最近更新 更多