【问题标题】:Hot to enable live reload on docker-compose for Airflow?在 docker-compose 上为 Airflow 启用实时重新加载很热?
【发布时间】:2022-07-07 20:51:12
【问题描述】:

这可能是重复的,但在这里找不到 - 如果是的话,很抱歉。

我有一个带有 docker-compose.yml 的简单 docker-compose Airflow 应用程序:

services:
  postgres:
    ...
  init:
    ...
  webserver:
    ...
  scheduler:
    ...

如何开启live reload,以便快速开发scheduler服务?

【问题讨论】:

  • 你的意思是自动刷新 dags 吗?
  • 是的,这正是我的意思

标签: docker docker-compose airflow


【解决方案1】:

在airflow.cfg 中查找这些参数:

解析 DAG 文件的秒数。每个 DAG 文件都会被解析 min_file_process_interval 秒数。 DAG 的更新反映在之后 这个间隔。将此数字保持在较低水平会增加 CPU 使用率。

min_file_process_interval = 30

检查陈旧 DAG(不再存在于 预期的文件)应该被停用。

deactivate_stale_dags_interval = 60

扫描 DAG 目录以查找新文件的频率(以秒为单位)。默认为 5 分钟。

dag_dir_list_interval = 300

【讨论】:

  • 正是我需要的,谢谢!
猜你喜欢
  • 1970-01-01
  • 2023-03-27
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2023-03-22
  • 2021-01-08
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多