【问题标题】:I want kafka connect to airflow?我想让 kafka 连接到气流?
【发布时间】:2022-10-17 18:08:38
【问题描述】:

我需要将 kafka 与气流连接,将数据从 kafka 发送到气流并将其保存到本地文件,告诉我如何最好地做到这一点。我认为气流提供者卡夫卡是正确的方法,还有别的吗?

【问题讨论】:

    标签: apache-kafka airflow apache-kafka-connect


    【解决方案1】:

    您可以安装 kafka sdk 并通过 PythonOperator 连接它,但似乎“airflow-provider-kafka”将它包装起来并执行它,因此使用它并在需要时扩展它似乎很好。

    不使用“airflow-provider-kafka”的唯一原因是它在气流回购之外开发和维护,因此将来您可能会遇到兼容性问题和破坏性更改,从而阻止您升级气流版本

    【讨论】:

      猜你喜欢
      • 2022-08-16
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2022-01-22
      • 2019-07-09
      • 2019-03-10
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多