【问题标题】:Scale read from change streams in documentdb从 documentdb 中的更改流中读取的比例
【发布时间】:2023-02-09 04:38:28
【问题描述】:

我正在利用来自 documentDB 的更改流来使用 lambda 读取及时排序的事件,事件桥每 10 分钟触发一次事件以调用 lambda 并将数据存档到 S3。有没有一种方法可以使用恢复令牌和轮询模型来扩展更改流中的读取?如果单个 lambda 尝试从更改流读取到存档,那么我的过程就会落后很多。由于我们的应用程序在高峰期写入了数百万条记录,因此我的归档过程能够将最多 500k 条记录归档到 S3。有没有办法扩展这个过程?运行并行 lambda 可能不起作用,因为这会导致竞态。

【问题讨论】:

    标签: mongodb amazon-web-services aws-documentdb changestream aws-documentdb-mongoapi


    【解决方案1】:

    你不能用step-functions吗?您的事件桥触发 lambda,这是一个阶跃函数,然后它可以在归档记录时保持状态。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2022-12-12
      • 2019-05-26
      • 2020-08-27
      • 2017-09-11
      • 1970-01-01
      • 2014-06-25
      • 2016-11-19
      • 1970-01-01
      相关资源
      最近更新 更多