【问题标题】:Airflow scheduler failure notification via slack通过 slack 的气流调度程序失败通知
【发布时间】:2021-10-13 12:43:04
【问题描述】:

我是气流的新手,所以请原谅我对它所做的任何愚蠢假设,我在工作中设置了 ETL,我在公司集群上运行 Airflow,并且其中有一些任务。运行气流的集群可能会崩溃,在这种情况下 DAG 将不会运行。

我想检查我们是否可以设置气流调度程序失败的通知,我的在线阅读已经抛出了几篇有用的文章来监控 DAG 本身,但是如果调度程序失败,那么这些失败通知将不会被触发(正确如果这不是它的工作原理,我会这样做)

如果您面对防火墙并且没有订阅,请以隐身方式打开以下链接

https://medium.com/datareply/integrating-slack-alerts-in-airflow-c9dcd155105

【问题讨论】:

  • 您是否尝试过使用文章中所写的 webhook ?
  • 我已经向我的 slack 管理员提出了创建应用程序的请求,我的问题是,如果调度程序失败,这个 webhook 链接会赶上吗?
  • 这取决于 AirFlow 故障处理模块。至于 slack webhook,任何正确发布的内容都会出现在配置的频道中。

标签: airflow etl slack airflow-scheduler


【解决方案1】:

您必须为此使用外部软件,例如 Datadog。

您可以在此处找到更多信息: https://docs.datadoghq.com/integrations/airflow/?tab=host

基本上,您必须通过 statsD 将外部 Datadog 连接到 Airflow。

就我而言,我通过 docker-compose 部署了 Airflow,而 Datadog 是另一个容器(来自 Datadog 官方 Docker 镜像),链接到调度程序和 webserver 容器。

你也可以使用Grafana和Prometeus(也可以通过statsD),这是开源方式https://databand.ai/blog/everyday-data-engineering-monitoring-airflow-with-prometheus-statsd-and-grafana/

【讨论】:

  • 嘿哈维尔,它能让我捕捉到气流调度程序崩溃,还是调度程序崩溃和 dag 崩溃是一样的?
  • 它允许您捕获调度程序崩溃。我们对这种情况发出了警报。当调度程序停机超过 15 分钟时,它会向我们发送 Slack/电子邮件
  • 嘿,我刚刚检查过,Datadog 应用程序也存在于 slack 应用程序中,虽然它提到已弃用,但您正在使用更新的版本吗?
  • 我已经更新了添加铁道信息的答案
猜你喜欢
  • 2019-07-12
  • 1970-01-01
  • 2019-01-20
  • 1970-01-01
  • 2023-03-30
  • 2016-03-20
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多