【发布时间】:2020-05-14 00:32:12
【问题描述】:
我知道,在 KSQL 中,我们可以将偏移量设置为最早或最晚但是我们可以从特定时间段获取数据,即我需要从 2020 年 5 月 6 日开始将数据插入到主题中吗?
【问题讨论】:
标签: apache-kafka ksqldb confluent-platform
我知道,在 KSQL 中,我们可以将偏移量设置为最早或最晚但是我们可以从特定时间段获取数据,即我需要从 2020 年 5 月 6 日开始将数据插入到主题中吗?
【问题讨论】:
标签: apache-kafka ksqldb confluent-platform
在 ksqlDB 中,您可以从主题的开头 (SET 'auto.offset.reset' = 'earliest';) 或结尾 (SET 'auto.offset.reset' = 'latest';) 查询。
您目前 (0.8.1 / CP 5.5) 无法寻找任意偏移量。
您可以做的是从最早的偏移量开始,然后在谓词中使用ROWTIME 来识别符合您要求的消息。
SELECT *
FROM MY_SOURCE_STREAM
WHERE ROWTIME>=1588772149620
请注意,这是按顺序扫描的,因此取决于您在主题中拥有多少数据,可能不会特别快。
【讨论】:
greater than or equal to 而不是 equal to