【问题标题】:FlinkKafkaConsumer / KafkaSource with AWS Glue Schema Registry or Confluent Schema RegistryFlinkKafkaConsumer / KafkaSource 与 AWS Glue Schema Registry 或 Confluent Schema Registry
【发布时间】:2023-01-11 15:35:19
【问题描述】:

我正在尝试编写一个 Flink 流应用程序,它有一个 KafkaSource 来读取一个主题,该主题具有为其数据定义的 AVRO 模式。

我想知道在这种情况下模式的自动缓存在本地是如何工作的,类似于 Confluent 的文档here

基本上,用例是消费者不应该事先知道模式。一旦消费者被实例化,模式注册表 URL 应该被作为一个参数并且消费者应该读取那个特定主题的模式。

这可能吗?任何指针表示赞赏!

【问题讨论】:

    标签: apache-kafka apache-flink aws-glue flink-streaming confluent-schema-registry


    【解决方案1】:

    这应该是可能的。

    您可以使用像 kcat 这样的 Kafka CLI 工具进行测试:

    kcat -b mybroker -t ledger -s avro -r http://schema-registry-url:8080

    如果您使用的是kafka-avro-console-consumer

    kafka-avro-console-consumer --topic topicX --bootstrap-server kafka:9092 --property schema.registry.url="http://schema-registry:8081"

    【讨论】:

      猜你喜欢
      • 2021-10-04
      • 1970-01-01
      • 2019-07-21
      • 2019-05-01
      • 1970-01-01
      • 2019-07-21
      • 2017-10-06
      • 2019-03-25
      • 2018-03-27
      相关资源
      最近更新 更多