【问题标题】:How to publish and consume nifi json to avro and avro to json content to kafka using NiFi如何使用 NiFi 发布和使用 nifi json 到 avro 和 avro 到 json 内容到 kafka
【发布时间】:2019-07-24 20:58:12
【问题描述】:

我是 NiFi 和 Avro 的新手。所以,根据我的理解,如果我们使用模式注册表,模式不会被添加到正在发布到 Kafka 的 Avro 内容中,只会发送模式 ID 是正确的吗??

如何使用 Horton works Schema Registry 使用 Avro 序列化和反序列化通过 Kafka 发布和消费?

在发送时将嵌入 Nifi ConvertJsonToAvro 架构。SO,是否有任何其他处理器将使用架构注册表并且在发布时不会发送架构。

【问题讨论】:

  • 您说的是 Confluent Schema Registry,还是 Hortonworks 的?
  • Horton works Schema Registry

标签: apache-kafka apache-nifi


【解决方案1】:

在发布方面,您将使用 PublishKafkaRecord(版本与您的 Kafka 代理相对应),并使用 JsonTreeReader 和 AvroRecordSetWriter 对其进行配置。在记录器中,您可以将架构写入策略配置为 Hortonworks Content Encoded。

在消费端,您将使用 ConsumeKafkaRecord(与发布版本相同),您将使用 AvroRecordReader 和 JsonRecordWriter 对其进行配置。在阅读器中,您可以将架构访问策略配置为 Hortonworks Content Encoded。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2020-03-17
    • 2018-03-12
    • 2020-10-01
    • 1970-01-01
    • 2021-03-15
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多