【问题标题】:Designing partition key to ensure data of particular type goes to same shard in Kinesis设计分区键以确保特定类型的数据进入 Kinesis 中的同一个分片
【发布时间】:2021-01-03 09:52:11
【问题描述】:

我是 AWS Kinesis 数据流的新手。在我的用例中,我想设置一个带有 2 个分片的 Kinesis 数据流,其中一个分片我想放置与学生相关的数据,而在另一个分片中,我想放置与教师相关的数据.

在这里,我的问题是如何设计分区键以确保与学生和教师相关的数据不会落在 Kinesis 数据流中的同一个分片中?

【问题讨论】:

    标签: amazon-web-services amazon-kinesis


    【解决方案1】:

    每个分片都将获得固定范围的分区键。您可以使用describe-stream 获取此范围。

    例如,对于第一个分片:

                    "HashKeyRange": {
                        "StartingHashKey": "0",
                        "EndingHashKey": "113427455640312821154458202477256070484"
                    },
    

    因此,在开始流式传输之前,您可以以编程方式检查范围并从相应范围中选择键。

    有了这个你可以使用ExplicitHashKeyPutRecords明确指定他们应该去哪个分片。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2015-09-29
      • 2015-06-24
      • 1970-01-01
      • 1970-01-01
      • 2022-10-07
      • 2020-12-14
      • 2019-06-20
      相关资源
      最近更新 更多