【问题标题】:Apache Airflow - How to set execution_date using TriggerDagRunOperator in target DAG for use the current execution_dateApache Airflow - 如何在目标 DAG 中使用 TriggerDagRunOperator 设置 execution_date 以使用当前 execution_date
【发布时间】:2019-05-15 16:02:10
【问题描述】:

我想在触发器 DAG 中设置 execution_date。我用的是运算符TriggerDagRunOperator,这个运算符有参数execution_date,我想设置当前的execution_date。

def conditionally_trigger(context, dag_run_obj):
    """This function decides whether or not to Trigger the remote DAG"""
    pp = pprint.PrettyPrinter(indent=4)
    c_p = Variable.get("VAR2") == Variable.get("VAR1") and Variable.get("VAR3") == "1"
    print("Controller DAG : conditionally_trigger = {}".format(c_p))
    if Variable.get("VAR2") == Variable.get("VAR1") and Variable.get("VAR3") == "1":
        pp.pprint(dag_run_obj.payload)
        return dag_run_obj

default_args = {
    'owner': 'pepito',
    'depends_on_past': False,
    'retries': 2,
    'start_date': datetime(2018, 12, 1, 0, 0),
    'email': ['xxxx@yyyyy.net'],
    'email_on_failure': False,
    'email_on_retry': False,
    'retry_delay': timedelta(minutes=1)
}

dag = DAG(
    'DAG_1',
    default_args=default_args,
    schedule_interval="0 12 * * 1",
    dagrun_timeout=timedelta(hours=22),
    max_active_runs=1,
    catchup=False
)

trigger_dag_2 = TriggerDagRunOperator(
    task_id='trigger_dag_2',
    trigger_dag_id="DAG_2",
   python_callable=conditionally_trigger,
    execution_date={{ execution_date }},
   dag=dag,
   pool='a_roz'
)

但我得到下一个错误

名称“执行日期”未定义

如果我设置

execution_date={{ 'execution_date' }},

execution_date='{{ execution_date }}',

我得到

Traceback(最近一次调用最后一次):

文件“/usr/local/lib/python3.6/site-packages/airflow/models.py”,第 1659 行,在 _run_raw_task 中

结果 = task_copy.execute(context=context)

文件“/usr/local/lib/python3.6/site-packages/airflow/operators/dagrun_operator.py”,第 78 行,在执行中

replace_microseconds=False)

文件“/usr/local/lib/python3.6/site-packages/airflow/api/common/experimental/trigger_dag.py”,第 98 行,在 trigger_dag 中

replace_microseconds=replace_microseconds,

文件“/usr/local/lib/python3.6/site-packages/airflow/api/common/experimental/trigger_dag.py”,第 45 行,在 _trigger_dag 中

断言 timezone.is_localized(execution_date)

文件“/usr/local/lib/python3.6/site-packages/airflow/utils/timezone.py”,第 38 行,在 is_localized 中

return value.utcoffset() 不是 None

AttributeError: 'str' 对象没有属性 'utcoffset'

如果我想等于 DAG_1,有谁知道如何设置 DAG_2 的执行日期?

这个问题与airflow TriggerDagRunOperator how to change the execution date不同,因为在这篇文章中没有解释如何通过运算符TriggerDagRunOperator发送execution_date,只是说存在这种可能性。 https://stackoverflow.com/a/49442868/10269204

【问题讨论】:

标签: airflow


【解决方案1】:

以前没有模板化,但现在用这个commit模板化了

您可以使用新版本的气流尝试您的代码

另外对于硬编码的execution_date,你需要设置tzinfo:

from datetime import datetime, timezone
execution_date=datetime(2019, 3, 27, tzinfo=timezone.utc)
# or:
execution_date=datetime.now().replace(tzinfo=timezone.utc)

【讨论】:

  • 我正在为 execution_date 尝试宏 {{ ds }}{{ ts }},但 datetime(...) 没有用。非常感谢@mustafagok
猜你喜欢
  • 2018-01-16
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-03-30
  • 1970-01-01
  • 1970-01-01
  • 2020-12-07
  • 1970-01-01
相关资源
最近更新 更多