【问题标题】:airflow 1.9 to 1.10 upgrade and now I'm getting empty logs in the UI气流 1.9 到 1.10 升级,现在我在 UI 中得到空日志
【发布时间】:2019-02-14 09:21:28
【问题描述】:

我最近从气流 1.9 升级到 1.10 并执行了以下命令:

  • 气流升级b
  • 更改了我提到的所有芹菜配置名称here
  • 导出 SLUGIFY_USES_TEXT_UNIDECODE=yes
  • 添加:log_filename_template = {{ ti.dag_id }}/{{ ti.task_id }}/{{ execution_date.strftime("%%Y-%%m-%%dT%%H:%%M:% %S") }}/{{ try_number }}.log 到我的配置

作业似乎运行良好,但是当我单击日志时,日志不会出现在 DAG 任务节点中。

我打开了我的网络选项卡,对以下 url 的请求正在返回此 JSON

$AIRFLOW_URL/ariflow/get_logs_with_metadata?dag_id=xxxx&task_id=xxxxx&execution_date=2018-09-09T23%3A03%3A10.585986%2B00%3A00&try_number=1&metadata=null

{"error":true,"message":["Task log handler file.task does not support read logs.\n'NoneType' object has no attribute 'read'\n"],"metadata":{"end_of_log":true}}

另外还有404请求获取js/form-1.0.0.js。有什么建议可以让日志重新工作的额外步骤吗?

我可以确认气流服务器上的任务的日志显示在日志目录中。

【问题讨论】:

    标签: airflow


    【解决方案1】:

    使用https://github.com/apache/incubator-airflow/blob/master/airflow/config_templates/default_airflow.cfg

    我以前有

    task_log_reader = file.task
    

    并将其更改为:

    task_log_reader = task
    

    我也补充了:

    log_filename_template = {{ ti.dag_id }}}}/{{ ti.task_id }}/{{ ts }}}}/{{ try_number }}.log
    log_processor_filename_template = {{ filename }}.log
    

    【讨论】:

    • 更改第一个配置也为我修复了它,谢谢!
    • 我希望配置文件的文档能够提供可用的选项。在我目前的项目中,我对 Airflow 的最大挫折是你必须永远从 github 的源代码中挖掘才能弄清楚。上面是一个很好的例子。 ti 对象中还有哪些其他属性?我们还能做些什么来格式化文件名模板?如果您介绍了一项新功能,请向社区提供帮助,让我们知道您还可以用它做什么。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-06-30
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-09-15
    • 2022-06-18
    相关资源
    最近更新 更多