【发布时间】:2018-07-15 20:49:00
【问题描述】:
使用 2.2 Dataflow SDK 是否可以使用 Pubsub 自动应用的 messageId 字段实现一次性交付?或者这甚至可能是一种默认行为?
PubsubIO.Read.withIdAttribute 似乎通常可以做到这一点,但我无法控制已发布的消息,所以我希望使用 messageId 字段。
在旧的1.x docs 中声明:
此外,您可以实现对 Pub/Sub 消息流的一次性处理,因为 PubsubIO 根据自定义消息标识符或 Pub/Sub 分配的标识符对消息进行重复数据删除。
最后一部分暗示读取的默认行为可能会固有地将 messageId 用于完全一次传递的目的。
【问题讨论】:
标签: google-cloud-dataflow apache-beam google-cloud-pubsub