【问题标题】:python-kafka: Is possible for a consumer to skip messages based on message attributes?python-kafka:消费者是否可以根据消息属性跳过消息?
【发布时间】:2016-11-10 22:00:38
【问题描述】:

给定一组消息,每个消息都有一个优先级属性。消费者是否可以跳过或忽略优先级属性不够高的消息?

一开始我反序列化了 kafka-python 消费者消费的消息,检查了优先级并丢弃了那些不符合要求的优先级的消息。

但我担心如果消息很大,会浪费大量时间来反序列化不会进一步处理的消息。在从 kafka 队列中读取数据时,有没有办法做到这一点?

【问题讨论】:

    标签: python apache-kafka kafka-python


    【解决方案1】:

    Kafka 目前不支持这种方式的自定义元数据,因此消费者过滤某些消息的唯一方法是读取有效负载。但是有一个improvement proposal under discussion 可以解决这种情况,可能值得关注。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2017-09-23
      • 1970-01-01
      • 1970-01-01
      • 2016-06-21
      • 2016-05-15
      • 2017-11-09
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多