【问题标题】:FlinkKafkaConsumer / KafkaSource with AWS Glue Schema Registry or Confluent Schema RegistryFlinkKafkaConsumer / KafkaSource 与 AWS Glue Schema Registry 或 Confluent Schema Registry
【发布时间】:2023-01-11 15:35:19
【问题描述】:
我正在尝试编写一个 Flink 流应用程序,它有一个 KafkaSource 来读取一个主题,该主题具有为其数据定义的 AVRO 模式。
我想知道在这种情况下模式的自动缓存在本地是如何工作的,类似于 Confluent 的文档here。
基本上,用例是消费者不应该事先知道模式。一旦消费者被实例化,模式注册表 URL 应该被作为一个参数并且消费者应该读取那个特定主题的模式。
这可能吗?任何指针表示赞赏!
【问题讨论】:
标签:
apache-kafka
apache-flink
aws-glue
flink-streaming
confluent-schema-registry
【解决方案1】:
这应该是可能的。
您可以使用像 kcat 这样的 Kafka CLI 工具进行测试:
kcat -b mybroker -t ledger -s avro -r http://schema-registry-url:8080
如果您使用的是kafka-avro-console-consumer:
kafka-avro-console-consumer --topic topicX --bootstrap-server kafka:9092 --property schema.registry.url="http://schema-registry:8081"