【发布时间】:2022-10-17 18:08:38
【问题描述】:
我需要将 kafka 与气流连接,将数据从 kafka 发送到气流并将其保存到本地文件,告诉我如何最好地做到这一点。我认为气流提供者卡夫卡是正确的方法,还有别的吗?
【问题讨论】:
标签: apache-kafka airflow apache-kafka-connect
我需要将 kafka 与气流连接,将数据从 kafka 发送到气流并将其保存到本地文件,告诉我如何最好地做到这一点。我认为气流提供者卡夫卡是正确的方法,还有别的吗?
【问题讨论】:
标签: apache-kafka airflow apache-kafka-connect
您可以安装 kafka sdk 并通过 PythonOperator 连接它,但似乎“airflow-provider-kafka”将它包装起来并执行它,因此使用它并在需要时扩展它似乎很好。
不使用“airflow-provider-kafka”的唯一原因是它在气流回购之外开发和维护,因此将来您可能会遇到兼容性问题和破坏性更改,从而阻止您升级气流版本
【讨论】: