【发布时间】:2018-09-27 12:33:27
【问题描述】:
我正在尝试使用 Apache Flink 1.6.0 从 kafka 主题中读取一些消息,对其进行转换,最后将它们发送到另一个 kafka 主题。我使用保存点来保存应用程序的状态,以防取消和重新启动。问题是我在重新启动后阅读消息时重复。 kafka 版本是 011。感谢任何有用的评论。
【问题讨论】:
标签: apache-kafka apache-flink savepoints
我正在尝试使用 Apache Flink 1.6.0 从 kafka 主题中读取一些消息,对其进行转换,最后将它们发送到另一个 kafka 主题。我使用保存点来保存应用程序的状态,以防取消和重新启动。问题是我在重新启动后阅读消息时重复。 kafka 版本是 011。感谢任何有用的评论。
【问题讨论】:
标签: apache-kafka apache-flink savepoints
为避免重复,设置kafka生产者时需要传递Semantic.EXACTLY_ONCE。有关使用 Kafka 时数据丢失和重复的更多详细信息,请参阅the documentation。
【讨论】: