【发布时间】:2019-07-05 00:25:43
【问题描述】:
我已安排我的气流 DAG 运行,每个 DAG 内部都有一个任务。当 DAG 运行时,其中的任务不会被执行。
这是我的代码(我正在尝试通过 SSH 连接到 EC2 服务器并运行 bash 命令):
from datetime import timedelta, datetime
from airflow import DAG
from airflow.contrib.operators.ssh_operator import SSHOperator
default_args = {
'owner': 'airflow',
'depends_on_past': False,
'email': ['removed@example.com'],
'email_on_failure': True,
'email_on_retry': True,
'start_date': datetime.now() - timedelta(days=1),
'retries': 1,
'retry_delay': timedelta(minutes=5),
}
dag = DAG(dag_id='back_fill_reactivated_photo_dimension',
default_args=default_args,
schedule_interval='55 * * * *',
dagrun_timeout=timedelta(seconds=120))
t1_bash = """
/usr/local/bin/dp/database_jobs/run_py.sh "backfill_photo_dim_reactivated.py"
"""
t1 = SSHOperator(
ssh_conn_id='ssh_aws_ec2',
task_id='backfill_photo_dim',
command=t1_bash,
dag=dag)
Airflow UI 显示 DAG 处于运行状态,但 DAG 内的实际任务从未运行,我的代码中是否缺少某些内容?
另外,有没有办法强制运行 DAG 而不管它的 CRON 计划是什么?
【问题讨论】:
标签: python-3.x airflow directed-acyclic-graphs