【问题标题】:Is it possible with KSQL to copy data from one Kafka cluster to another Kafka cluster?是否可以使用 KSQL 将数据从一个 Kafka 集群复制到另一个 Kafka 集群?
【发布时间】:2021-04-25 21:13:30
【问题描述】:

我想根据某些条件将主题 TOPIC_1 的一些数据(日志)从 Kafka Cluster A 复制到另一个 Kafka Cluster B .是否可以使用 KSQL 来做到这一点? 我不想使用 MirrorMaker,因为我不想复制所有数据和主题。基本上我要问的是是否有一种方法可以在 WITH 子句中的以下命令中配置集群名称以及主题名称。

CREATE STREAM INPUT_STREAM (viewtime bigint, userid varchar, pageid varchar) WITH (kafka_topic='pageviews', value_format='DELIMITED');

如果 KSQL 无法做到这一点,是否还有其他方法可以做到这一点。

提前致谢。

【问题讨论】:

    标签: apache-kafka ksqldb


    【解决方案1】:

    在 KSQL 属性中,只能连接一台 boostrap 服务器。

    您需要从另一个集群创建一个 MirrorMaker / Confluent Replicator 连接器。

    【讨论】:

    • 感谢您的回复。如果我是正确的,这将从主题或集群中获取所有数据。我只想要来自给定主题的一些日志。就像 CLUSTER_A 中 TOPIC1 中的每 10000 条日志一样,我想将 1 条日志推送到 TOPIC2 客栈 CLUSTER_B。这可能吗?
    • 我不熟悉任何可以做到这一点的开箱即用处理器。您必须编写一个自定义消费者,其中多个生产者将数据发送到其他集群
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2014-06-26
    • 1970-01-01
    • 2023-01-25
    • 2017-09-07
    • 2016-12-07
    • 1970-01-01
    • 2015-12-10
    相关资源
    最近更新 更多