【发布时间】:2017-04-27 17:20:15
【问题描述】:
我想知道如何在 cassandra 中使用 CDC。我发现这已经从 3.8 版本开始实施( https://issues.apache.org/jira/browse/CASSANDRA-8844)。有没有使用示例?
【问题讨论】:
标签: cassandra cdc change-data-capture
我想知道如何在 cassandra 中使用 CDC。我发现这已经从 3.8 版本开始实施( https://issues.apache.org/jira/browse/CASSANDRA-8844)。有没有使用示例?
【问题讨论】:
标签: cassandra cdc change-data-capture
1.在 cassandra.yaml 上启用 CDC
cdc_enabled (default: false)
Enable or disable CDC operations node-wide.
2。在表上启用 CDC
CREATE TABLE foo (a int, b text, PRIMARY KEY(a)) WITH cdc=true;
// or
ALTER TABLE foo WITH cdc=true;
3.内存表刷新到磁盘后,您可以访问$CASSANDRA_HOME/data/cdc_raw中的行CDC数据
在此文件夹中 cassandra 存储 CommitLogSegments。您可以查看此链接 Read CommitLogSegments
【讨论】:
您可以编写自己的CommitLogReader 实现,或使用此sample implementation.
但是,请注意 CDC 日志不太可靠(因为重复事件和将数据刷新到 CDC 所花费的时间),并且在未来版本中可能会更改格式。
【讨论】:
我在 ScyllaDB 工作,它与 Cassandra 兼容并且还支持 CDC - 这更易于使用。
您可以指定是否仅获取 delta、pre=image、post-image。数据存储在系统生成的表中,可以通过 CQL 访问和读取。
这样:
【讨论】: