【问题标题】:How do I check the data integrity after migrating a Cassandra database onto AWS Keyspaces将 Cassandra 数据库迁移到 AWS Keyspaces 后如何检查数据完整性
【发布时间】:2022-12-15 23:13:50
【问题描述】:

我正在尝试迁移卡桑德拉聚集到适用于 Apache Cassandra 的 AWS 密钥空间. 迁移完成后,如何验证数据是否已按原样成功迁移?

【问题讨论】:

    标签: database amazon-web-services cassandra amazon-keyspaces


    【解决方案1】:

    许多解决方案都是可能的,您可以简单地读取分区的所有行并计算校验和/签名并与您的原始数据进行比较,例如。然后遍历所有分区,然后对所有表执行此操作。校验和工作。

    【讨论】:

      【解决方案2】:

      您可以使用 AWS Glue 执行“例外”功能。 Spark 有很多用于处理海量数据集的有用函数。胶水是无服务器的火花。您可以将 spark cassandra 连接器与 Cassandra 和 Keyspaces 结合使用,以在胶水中处理数据集。例如,您可能希望查看不在键空间中的数据。

      cassandraTableDataframe.except(keyspacesTableDateframe). 
      
      

      您也可以通过将两个数据集导出到 s3 并在 Athena 中执行这些查询来实现。

      Here is a helpful repository of Glue and Keyspaces 功能包括导出、计数和不同。

      【讨论】:

        猜你喜欢
        • 2013-11-28
        • 2020-11-04
        • 2014-10-16
        • 2012-12-30
        • 2023-03-08
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2020-07-02
        相关资源
        最近更新 更多