【问题标题】:CDC (Changed Data Capture) with CouchbaseCDC(更改数据捕获)与 Couchbase
【发布时间】:2020-06-12 21:09:49
【问题描述】:

我需要从数据流中捕获更改。下面给出了我的解决方案。

数据流入 Kafka -> 消费者获取数据并将数据插入/更新(修剪后的数据)到 DynamoDB(我们已经配置了 DynamoDB 流)。每次插入/更新后,都会生成一个包含更改数据的流,然后由 Lambda 解释和处理。

现在我的问题是,如果必须用 Couchbase 替换 DynamoDB,Couchbase 会提供开箱即用的 CDC 吗?我对 Couchbase 非常陌生,我尝试搜索 CDC 功能,但没有直接文档。

任何指针都会非常有帮助!谢谢!

【问题讨论】:

    标签: apache-kafka amazon-dynamodb couchbase amazon-dynamodb-streams change-data-capture


    【解决方案1】:

    Couchbase 有一个官方支持的 Kafka 连接器 (documentation here)。

    我不熟悉“CDC”这个术语,但是这个 Couchbase Kafka 连接器可以充当接收器和源。它本身并不是“开箱即用”,它是一个单独的连接器。

    【讨论】:

      【解决方案2】:

      Couchbase 似乎不支持更改数据捕获 (CDC),但有一些功能可以在文档更改时进行通知。例如,Source Kafka 连接器使用它并在更改时发送文档,包括使用 DefaultSchemaSourceHandler 配置时的元数据,它应该与 CDC 足够接近:

      https://docs.couchbase.com/kafka-connector/current/quickstart.html#defaultschemasourcehandler

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2018-06-15
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2019-05-13
        • 1970-01-01
        相关资源
        最近更新 更多