【发布时间】:2016-11-10 22:00:38
【问题描述】:
给定一组消息,每个消息都有一个优先级属性。消费者是否可以跳过或忽略优先级属性不够高的消息?
一开始我反序列化了 kafka-python 消费者消费的消息,检查了优先级并丢弃了那些不符合要求的优先级的消息。
但我担心如果消息很大,会浪费大量时间来反序列化不会进一步处理的消息。在从 kafka 队列中读取数据时,有没有办法做到这一点?
【问题讨论】:
标签: python apache-kafka kafka-python
给定一组消息,每个消息都有一个优先级属性。消费者是否可以跳过或忽略优先级属性不够高的消息?
一开始我反序列化了 kafka-python 消费者消费的消息,检查了优先级并丢弃了那些不符合要求的优先级的消息。
但我担心如果消息很大,会浪费大量时间来反序列化不会进一步处理的消息。在从 kafka 队列中读取数据时,有没有办法做到这一点?
【问题讨论】:
标签: python apache-kafka kafka-python
Kafka 目前不支持这种方式的自定义元数据,因此消费者过滤某些消息的唯一方法是读取有效负载。但是有一个improvement proposal under discussion 可以解决这种情况,可能值得关注。
【讨论】: