【问题标题】:Is it possible to trigger/call another program when kafka HdfsSinkConnector finish当kafka HdfsSinkConnector完成时是否可以触发/调用另一个程序
【发布时间】:2021-09-29 18:49:05
【问题描述】:

我想在 kafka HdfsSinkConnector 任务完成时触发 impala 刷新作业。是否可以在任务完成或以任何其他方式触发/调用我的其他程序时收到通知?

【问题讨论】:

    标签: hdfs apache-kafka-connect confluent-platform impala


    【解决方案1】:

    HDFS 有一个 inotify 功能,它基本上将这些日志条目转换为可以使用的事件。

    https://issues.apache.org/jira/browse/HDFS-6634

    这是一个基于 Java 的示例:https://github.com/onefoursix/hdfs-inotify-example

    或者,与其让 Oozie 监控许多目录并浪费资源,脚本可以每分钟左右执行 'hdfs dfs -ls -R /folder|grep|sed' 但这仍然不是基于事件的,所以它取决于多快您需要的反应与实现/使用 inotify API 的难易程度

    https://community.cloudera.com/t5/Support-Questions/HDFS-Best-way-to-trigger-execution-at-File-arrival/td-p/163423

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2011-04-17
      • 2020-08-05
      • 1970-01-01
      • 2013-12-03
      • 1970-01-01
      相关资源
      最近更新 更多